62 громадські організації закликали Європейську комісію заборонити використання в ЄС технологій штучного інтелекту, яка порушує права людини і дозволяє, наприклад, масове спостереження за жителями.
 |
Маєте Телеграм? Два кліки - і ви не пропустите жодної важливої юридичної новини. Нічого зайвого, лише #самасуть. З турботою про ваш час! |
Читайте також: "Трамп помилував колишнього інженера Google, засудженого за крадіжку комерційної таємниці".
Після довгих років обговорень Європейський Союз нарешті почав роботу над регулюванням штучного інтелекту. У І кварталі 2021 р. Європейська комісія повинна представити проєкт нових правил у цій сфері. Тимчасом Європейська коаліція за цифрові права (EDRi) разом з 61 іншою громадською організацією, в т.ч. Amnesty International, German Digitale Freiheit і Польським фондом Panoptykon, направили відкритий лист комісарам ЄС, включаючи Маргрет Вестагер, що відповідає за цифрові справи, і Віру Юрову, комісара ЄС з цінностей і прозоростей. У листі міститься заклик заборонити в ЄС технології штучного інтелекту (ШІ), що порушують основні права громадян.
"Ми хочемо, щоб новий регламент встановив «червону межу» і ввів абсолютну заборону на використання технологій, що обмежують права людини", — написали автори листа.
Розпізнавання небезпечної особи
Організації згадують 5 областей, у яких використання ШІ призводить до зловживань. Серед них — використання технології розпізнавання облич у громадських місцях, таких як центри міст або офісні будівлі. "Кожна установка систем ШІ для ідентифікації жителів у громадських місцях за визначенням пов’язана з масовою обробкою біометричних даних жителів (у т.ч. їх зображень осіб) і є порушенням громадянських прав", — застерігають організації. Вони додають, що навіть діючі в ЄС правила захисту даних підкреслюють, що таке використання ШІ не є ні необхідним, ні відповідним наміченій меті, воно створює ризик масового спостереження за громадянами. Щоб запобігти цьому, ЄК повинна ввести "чітку заборону на колективне використання біометричних даних" правоохоронними органами і національними адміністраціями, а також приватними компаніями, такими як банки.
Звернення також стосується заборони використання технологій ШІ при прикордонному контролі і міграційними службами. Як повідомляє EDRi, ШІ часто тестується на кордонах ЄС як інструмент виявлення брехні в імміграційних додатках або для виявлення шахрайства в мовних тестах з використанням голосового аналізу. "Жоден з цих методів не має вагомої наукової основи, — вважає EDRi. — Міграційна політика ЄС все більше ґрунтується на системах ШІ, таких як розпізнавання облич, використання алгоритмів для створення профілів іммігрантів або в якості прогностичного інструменту в процесах управління міграцією, включаючи планування примусових депортацій. Такі випадки використання технологій можуть порушувати право на захист даних, конфіденційність, право на недискримінацію і кілька принципів міжнародного міграційного права, включаючи право подавати заяву про надання притулку".
"Ми настійно закликаємо Комісію заборонити або ввести мораторій на використання автоматизованих систем прикордонного і міграційного контролю, принаймні, до тих пір, поки вони не будуть піддані ретельній і незалежній перевірці на предмет відповідності міжнародним стандартам прав людини", — пишуть автори листа.
Алгоритм прогнозування злочину
За словами активістів, турбує також використання технологій ШІ для надання соціальних пільг жителям ЄС. Сьогодні трапляється, що, наприклад, платоспроможність громадянина або його право на отримання соціальної допомоги оцінюються за допомогою автоматизованих систем. На думку активістів, це може привести до дискримінації певних соціальних груп, наприклад, безробітних або людей з обмеженими можливостями. "Нові правила повинні обмежити використання систем ШІ, які незаконно порушують доступ громадян до соціальних прав і пільг", — стверджує EDRi.
Автори листа також хочуть заборонити використання програмного забезпечення на основі ШІ для прогнозування поліцейської діяльності. Йдеться про використання, наприклад, поліцією алгоритмів, які повинні допомогти визначити, де, ймовірно, може статися злочин, хто його вчинить і яке порушення закону буде. Активісти побоюються, що такі методи можуть призвести до дискримінації щодо більш бідних кварталів або певних соціальних груп, наприклад, етнічних меншин, що, у свою чергу, може привести до їх надмірного моніторингу та посилення їх почуття соціальної ізоляції. Аналогічна ситуація з використанням технологій в судових системах, де вони використовуються, наприклад, для прогнозування ризику рецидивізму ув'язнених.
"Наведені приклади показують, що Європейському Союзу в 2021 р. потрібні амбітні правила щодо ШІ, такі, які будуть гарантувати громадянам їх права і свободи", — зазначають підписанти листа.
Поверніть своє обличчя
У січні Європейська коаліція за цифрові права зареєструвала Європейську громадянську ініціативу "Поверніть своє обличчя" (Reclaim Your Face), метою якої є боротьба за заборону використання технологій розпізнавання облич у громадських місцях. Кампанія офіційно розпочнеться в середині лютого. З цього моменту у організації буде рік, щоб зібрати мільйон підписів від громадян не менше чверті країн-членів ЄС. Після цього Європейська комісія буде зобов’язана розглядати петицію як пропонований правовий акт.