12 вересня, постом в Фейсбуці Міністр юстиції Денис Малюська анонсував запуск «Касандри» - програмного забезпечення «з елементами штучного інтелекту». Цей ШІ має використовуватися Мін’юстом для підготовки характеристики обвинуваченого для суду, яка враховуватиметься при винесенні вироку.
 |
Маєте Телеграм? Два кліки - і ви не пропустите жодної важливої юридичної новини. Нічого зайвого, лише #самасуть. З турботою про ваш час! |
Попри нестандартну форму анонсу, Міністр не надав жодної інформації, для хоча б якихось висновків про таку систему. Невідомими є принципи роботи «Касандри», хто саме є розробником і чи враховуються в ході розробки стандарти щодо ШІ в сфері правосуддя. А такі принципи вже існують, хай і поки не є юридично обов’язковими.
Наприклад, Європейська етична хартія використання штучного інтелекту в судових системах (European Ethical Charter on the use of artificial intelligence in judicial systems), визначає п'ять принципів, які регулюють застосування технологій ШІ в правосудді: поваги до прав людини; недискримінації; якості та безпеки; прозорості; безсторонності і справедливості; та принцип “під контролем користувача” (under user control). Документ містить достатньо детальні вимоги до таких систем: від захисту персональних даних до публікації принципів та алгоритмів програми у вигляді частин коду (принаймні частково).
А особлива увага приділяється власне тому, що з «презентації» міністра залишається незрозумілим: хто і як розробляє цю програму? До розробки таких систем Хартія рекомендує залучати широке коло експертів, окрім ІТ-вців: від суддів та адвокатів до філософів і соціологів, а команди розробників мають відповідати критеріям гендерного, соціального та іншого різноманіття.
Ці стандарти не з’явилися нізвідки: у світі вже є прецеденти використання схожих систем з «елементами ШІ» для оцінки імовірності рецидиву обвинувачених. Наприклад, у Британії є HART (Harm Assessment Risk Tool) розроблений у Кембриджському університеті, яка в тестовому режимі використовується поліцією з 2017 р., а в США - COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), розроблена приватною компанією і яка вже застосовується у Вісконсині, Нью-Йорку, Каліфорнії та ін.
Результати їх застосування не були провальними: наприклад HART продемонстрував точність бл. 90% при оцінці ймовірності рецидиву. Проте в обох випадках звучала й критика, зокрема через недоступність інформації про код і алгоритми програм. Також виникли і питання щодо дискримінації - за соціальною в Британії або ж за расовою в США ознаками.
Об’єктивно, в майбутньому такі системи АІ стануть складовою судового процесу. Проте їх ефективність (та й безпека) залежать від прозорості та відкритості процесу розробки, що не може обмежуватися винятково рамками Мін’юсту. Це дозволяє захеджувати юридичні та етичні ризики, які точно виникають в процесі застосування таких систем і відрізняються залежно від суспільства.
Так само не варто ставити як КРІ якнайшвидше впровадження цих систем: цьому має передувати широке публічне обговорення та певний «тестовий» період, який, об’єктивно, повинен тривати не менше 2-4 років. Якщо ж впровадження «Касандри» відбудеться у «турборежимі», то засуджені із її використанням, матимуть хороші шанси успішно оскаржити такі вироки та отримати компенсацію.
І останнє: в античній міфології Касандра була пророчицею, передбаченням якої ніхто не вірив, а в переносному значенні так називають людей, які пророкують лише нещастя. Погодьтеся: такий брендинг підсвідомо наштовхує на висновок про завідомо каральний характер алгоритмів системи.