Від початку повномасштабного вторгнення новини про використання військовими технологій на основі штучного інтелекту, зокрема технології розпізнавання обличчя, набули широкого розголосу. Програма, запропонована Україні компанією Clearview AI, вже з перших місяців воєнних дій демонструвала неймовірні результати, які значно впливали на хід військових операцій і змінювали їх динаміку. Все більше державних агенцій та посадових осіб отримували доступ до технології, а кількість пошукових запитів та ідентифікованих російських злочинців лише зростала. За наявними даними, здійснено понад 350 000 пошуків та відкрито близько 120 000 кримінальних проваджень щодо злочинів росіян та їхніх пособників в Україні. Маєте Телеграм? Два кліки - і ви не пропустите жодної важливої юридичної новини.
Нічого зайвого, лише #самасуть. З турботою про ваш час! Попри успішність застосування технології розпізнавання обличчя, її використання все ж несе певні ризики, які викликають занепокоєння та відповідно потребують уваги. Зокрема, це питання стосується як правових та етичних аспектів використання технології, так і можливості її неправильного використання під час війни та у мирний час. Основні ризики використання технології розпізнавання обличчя Помилкова ідентифікація Одним із найсерйозніших ризиків застосування технології розпізнавання обличчя є помилкова ідентифікація, яка може мати жахливі наслідки як при ідентифікації загиблих, так і живих людей. За нормальних обставин ідентифікацію загиблих проводять судово-медичні експерти за допомогою ДНК-тестування, яке на сьогодні довело свою надійність. Проте в умовах війни цей метод може бути недостатньо швидким. Як зазначає Clearview, їхній алгоритм правильно зіставляє фотографії з точністю 99, 85%. Попри те, що цей результат є майже досконалим, як і з усіма новими технологіями, помилки можуть виникати, особливо враховуючи використання цієї системи під час воєнного часу, який характерний напруженістю та стресовими ситуаціями. Оскільки переважно Clearview в Україні використовується для ідентифікації загиблих російських солдатів, враховуючи деформацію обличчя або інші ушкодження в результаті бойових дій, помилка алгоритму при ідентифікації все ж можлива. З огляду на це, результати пошуків у цій системі не повинні бути єдиною підставою для обвинувачення особи, а мають підкріплюватися іншими доказами. Крім того, ефективне використання технології розпізнавання обличчя потребує спеціалізованого навчання, якого часто бракує в умовах війни через обмеженість часу та ресурсів. Це може призводити до залучення операторів технології без належного інструктажу щодо використання та інтерпретації результатів системи, без знання технічних термінів, що, своєю чергою, збільшує ймовірність помилок. Крім цього, високий рівень стресу на полі бою може змусити операторів приймати поспішні рішення без належної перевірки результатів. Неконтрольоване використання Технологія розпізнавання обличчя є вагомим інструментом, і доступ до неї у великої кількості посадових осіб викликає занепокоєння щодо можливих зловживань. Якщо система використовується поза межами дозволеного, без належного контролю, обходячи протоколи та інструкції, це може призвести не лише до використання технології для особистих інтересів, але й порушення прав інших осіб. На сьогодні в Україні немає належного правового регулювання використання технології розпізнавання обличчя і відповідно необхідного інструменту для запобігання подібним випадкам порушення свобод людини. Враховуючи це, важливим є розроблення чітко регламентованої системи перевірки особи оператора технології розпізнавання обличчя та його повноваження, а також механізмів контролю за тим, які пошукові запити виконуються та в яких цілях. Інтеграція в системи зі зброєю Інтеграція технології розпізнавання обличчя у зброю з прямою летальною силою залишається потенційною загрозою на майбутнє. Попри те, що розробка та використання такої зброї може видаватись ще далеким концептом, вже існують перші приклади: зокрема, у 2023 році Збройні Сили США підписали контракт про виготовлення дронів, оснащених системою розпізнавання обличчя. Таким чином, подальші позитивні результати використання технології під час війни можуть стимулювати подальшу розробку нового автоматизованого озброєння, що застосовує алгоритм для виявлення та ураження цілей (наприклад, інтеграція даної системи у «китайські роботи-собаки», які на сьогодні вже використовуються українськими військовими). Такий розвиток подій може спричинити гонку озброєння та загострення світових конфліктів. Отже, розширення військового застосування технології розпізнавання обличчя потребує обговорення на міжнародному рівні для створення механізмів контролю за використанням таких систем у військових цілях. Поширення використання у мирний час Наявність готової інфраструктури для використання технології розпізнавання обличчя, так і досвід операторів можуть вплинути на продовження активного застосування системи в мирний час. На сьогодні в українських містах уже поширюється нова система відеонагляду з функцією розпізнавання обличчя. Це, звісно, має свої обґрунтовані підстави, як-от підтримка громадської безпеки за рахунок швидкої ідентифікації злочинців або перевірка на блокпостах і кордоні для виявлення загроз національній безпеці. Однак дана технологія може бути використана й в інших випадках, наприклад, для спостереження за політичними чи громадськими діячами, придушення свободи слова або іншого порушення прав людини. Таким чином, занепокоєння щодо недоторканності приватного життя та громадських свобод, які можуть здаватися другорядними під час війни, набувають більшого значення у мирний час. Це може створити атмосферу недовіри та страху серед населення, підриваючи фундаментальні принципи вільного суспільства. На сьогодні вже існує ряд випадків громадського невдоволення. Наприклад, лише місяць тому протестувальники зібралися проти використання технології розпізнавання обличчя на стадіоні в Нью-Йорку. Конфіденційність та захист даних Використання технології розпізнавання обличчя передбачає зберігання великих обсягів конфіденційних даних. На сьогодні база Clearview містить понад 10 млрд зображень, зібраних зі соціальних мереж, таких як Facebook, Twitter, Вконтакте тощо. Під час війни ця база була значно розширена за рахунок фотографій живих і загиблих осіб, що само собою викликає багато етичних дискусій. Крім цього, забезпечення безпеки даних може бути складним завданням у зоні конфлікту, що підвищує ризик витоку даних або несанкціонованого доступу. Питання захисту даних стають особливо актуальними, якщо взяти до уваги негативну репутацію Clearview у світовому товаристві. Деякі країни, зокрема Австралія, Канада, Франція та Велика Британія, вже визнали порушення закону про конфіденційність через використання Clearview AI. Додатково до попередніх штрафів, нещодавно, у вересні 2024 року, Управління із захисту даних Нідерландів також оштрафувало компанію Clearview AI на 30,5 мільйонів євро за незаконне створення бази даних. Таким чином, існують обгрунтовані занепокоєння щодо ускладнення майбутніх переговорів про вступ України до ЄС, де діє Загальний регламент захисту даних (GDPR), при використанні цієї технології. Висновок Технологія розпізнавання обличчя має значний вплив на воєнні дії в Україні. Вона стала важливим інструментом як для протидії російській пропаганді, так і для ідентифікації та притягнення до відповідальності військових злочинців. Хоча Україна не є першою країною, яка почала застосовувати такі технології під час війни, вона значно підвищила рівень їх застосування і зробила важливим інструментом у веденні сучасної війни. Попри очевидні позитивні результати, існує низка ризиків, які неможливо ігнорувати. Враховуючи недосконалість технології та недостатню підготовку операторів не виключається можливість помилкової ідентифікації людини або ж узагалі неконтрольоване використання технології в особистих цілях. З огляду на це, результати зі системи розпізнавання обличчя не повинні бути єдиною підставою для визначення долі особи. Занепокоєння викликає і можливість використання системи у мирний час, не лише для захисту громадських та національних інтересів, але і як порушення основних свобод людини. Враховуючи існування вже на сьогодні значних проблем щодо конфіденційності та захисту даних при використанні технології розпізнавання обличчя, ці ризики не видаються лише здогадками. Отже, для зниження ризиків та запобігання зловживанням технологією розпізнавання обличчя необхідно розробити чіткі правила її використання як під час війни, так і в мирний час. Забезпечення захисту даних, підвищення рівня підготовки операторів та створення прозорих механізмів контролю допоможуть мінімізувати потенційні загрози, зберігаючи водночас переваги цієї інноваційної технології.
13 вересня 2024, 18:39