ПЕРЕКЛАД
 |
Маєте Телеграм? Два кліки - і ви не пропустите жодної важливої юридичної новини. Нічого зайвого, лише #самасуть. З турботою про ваш час! |
Верховний комісар ООН з прав людини Мішель Бачелет (Michelle Bachelet) закликала ввести мораторій на використання систем штучного інтелекту (далі – ШІ), що порушують права людини. Серед них відзначається система розпізнавання осіб та суміжні з нею технології.
Читайте також: "Альтернативні механізми вирішення спорів, пов’язаних з авторським правом: дослідження ВОІВ"
«Потрібні термінові заходи, оскільки для оцінки та усунення серйозних ризиків, які створює ця технологія для прав людини, може знадобитися час, – попередила Верховний комісар. – Чим вищий ризик для прав людини, тим суворішими повинні бути юридичні вимоги до використання технології штучного інтелекту».
Пані Бачелет також закликала до заборони додатків ШІ, які не можуть використовуватися відповідно до міжнародного права прав людини. «Штучний інтелект може бути силою добра, допомагаючи суспільству долати деякі серйозні проблеми нашого часу. Однак технології штучного інтелекту можуть мати негативні та навіть катастрофічні наслідки, якщо вони використовуються без достатнього врахування того, як вони впливають на права людини».
Одкровення шпигунського ПЗ Pegasus
14.09.2021 р. глава ООН з прав людини висловила стурбованість з приводу «безпрецедентного рівня спостереження в усьому світі з боку державних і приватних суб'єктів». За її словами, він «несумісний» з правами людини.
Мішель Бачелет виступила на слуханнях у Раді Європи з доповіддю про наслідки липневих суперечок з приводу шпигунського програмного забезпечення (далі – ПЗ) Pegasus. «Одкровення Пегаса не стали несподіванкою для багатьох», – зазначила вона Комітету Ради Європи з юридичних питань і прав людини, маючи на увазі широке використання шпигунського ПЗ комерціалізованого групою NSO, від якого постраждали тисячі людей у 45 країнах світу.
«Висока ціна», без дій
Заклик Верховного комісара надійшов після того, як її офіс OHCHR опублікував звіт, в якому аналізується, як ШІ впливає на право людей на недоторканність приватного життя та інші права, включаючи права на здоров'я, освіту, свободу пересування, свободу мирних зборів та асоціацій, свободу висловлення власних поглядів. Документ включає оцінку профілювання, автоматизованого прийняття рішень та інших технологій машинного навчання.
«Ситуація жахлива, вона не покращилася з роками, а стала гіршою», – наголосив Тім Енгельхардт, співробітник з прав людини, Секція верховенства закону та демократії, який виступав з доповіддю в Женеві.
Схвалюючи згоду Європейського Союзу на посилення правил контролю та зростання міжнародних добровільних зобов'язань і механізмів підзвітності, він попередив: «Ми не думаємо, що у нас буде рішення в наступному році, але перші кроки потрібно зробити зараз, інакше багато людей у світі заплатять високу ціну».
Директор OHCHR з тематичної взаємодії Пеггі Хікс до попередження пана Енгельхардта додала: «Справа полягає не в ризиках у майбутньому, а в реальності сьогоднішнього дня. Без далекосяжних зрушень шкода буде множитися зі швидкістю і масштабом. Ми не дізнаємося масштабів проблеми».
Відсутність належної обачності
Згідно зі звітом, держави та компанії часто поспішали впроваджувати програми ШІ, не маючи належної обачності. В ньому зазначається, що були численні випадки несправедливого поводження з людьми у зв’язку з неправильним використанням ШІ (наприклад, коли відмовляли у допомозі із соціального забезпечення через несправні інструменти ШІ або заарештовували через некоректне програмне забезпечення для розпізнавання осіб).
Дискримінаційні дані
У документі детально описується, як системи ШІ покладаються на великі набори даних, при цьому інформація про людей збирається, спільно використовується, об'єднується та аналізується кількома часто непрозорими способами. Стверджується, що дані, які використовуються для інформування та управління системами ШІ, можуть бути помилковими, дискримінаційними, застарілими або нерелевантними, а також що довгострокове зберігання даних містить особливі ризики, оскільки в майбутньому дані можуть бути використані невідомими способами.
«З огляду на швидке і безперервне зростання ШІ, заповнення величезної прогалини у підзвітності в тому, як дані збираються, зберігаються, передаються і використовуються. Це одне з найбільш нагальних питань прав людини, з якими ми зіштовхуємося», – заявила пані Бачелет.
У звіті також наголошується, що необхідно підійняти серйозні питання щодо висновків, прогнозів та моніторингу за допомогою інструментів ШІ, в тому числі про пошук розуміння моделей людської поведінки. Було виявлено, що упереджені набори даних, на які спираються системи ШІ, можуть призвести до дискримінаційних рішень, що є серйозним ризиком для і без того маргіналізованих груп. «Ось чому необхідна систематична оцінка та моніторинг впливу систем ШІ для виявлення і зниження ризиків для прав людини», – додала Верховний комісар.
Біометричні технології
Все більш популярним рішенням для держав, міжнародних організацій та технологічних компаній є біометричні технології, які є сферою, «де терміново необхідні додаткові рекомендації з прав людини». Ці технології (в тому числі розпізнавання осіб) все частіше використовуються для ідентифікації людей в режимі реального часу і на відстані, що потенційно дозволяє відстежувати людей без обмежень.
У звіті повторюються заклики до мораторію на їх використання у громадських місцях, принаймні допоки влада не продемонструє, що немає серйозних проблем з точністю або дискримінаційних дій, а також що ці системи ШІ відповідають надійним стандартам конфіденційності та захисту даних.
Потрібна більша прозорість
У документі наголошується на необхідності більшої прозорості для компаній та держав у тому, як вони розробляють і використовують ШІ. «Складність середовища даних, алгоритмів і моделей, що лежать в основі розробки та експлуатації систем штучного інтелекту, а також навмисна секретність державних і приватних суб'єктів є чинниками, що підривають значущі способи розуміння громадськістю впливу систем штучного інтелекту на права людини й суспільство», – йдеться у повідомленні.
Необхідні обмеження
«Ми не можемо собі дозволити продовжувати наздоганяти ШІ. Дозволяючи його використання з обмеженнями або без кордонів чи нагляду та маючи справу з майже неминучими наслідками для прав людини постфактум. Здатність ШІ служити людям є беззаперечною, як і здатність ШІ підживлювати порушення прав людини у величезних масштабах майже непомітно. Наразі необхідно вжити заходів щодо обмеження прав людини на використання ШІ на благо всіх нас», – підкреслила пані Бачелет.
Джерела:
UN calls for moratorium on AI that threatens human rights.
Urgent action needed over artificial intelligence risks to human rights.