Алгоритмічні системи і презумпція невинуватості: правовий аналіз упереджень та механізмів захисту

Анотація

У статті розглядається вплив сучасних технологій штучного інтелекту на фундаментальне право особи бути визнаною невинуватою до набрання вироком суду законної сили. В результаті прове- деного аналізу встановлено, як автоматизоване розпізнавання обличчя, алгоритмічні інструменти оцінки ризику рецидиву та системи прогнозного поліцейського профілювання можуть породжувати упередження внаслідок некоректної вибірки даних, непрозорих алгоритмічних припущень та недо- сконалої методології моделювання. Встановлено, що застосування таких технологій без належно- го контролю загрожує зміщенням тягаря доказування й порушенням принципу «in dubio pro reo», закріпленого в ст. 6 Європейської конвенції з прав людини. У роботі проаналізовано Директи- ву (EU) 2016/343 та Regulation (EU) 2024/1689 (AI Act), що встановлює мінімальні стандарти кри- мінального судочинства, вимоги прозорості та відповідальності алгоритмічних систем, а також єв- ропейські резолюції й рекомендації організацій Fair Trials та Amnesty International щодо забезпечен- ня доступу захисту до вихідного коду й результатів аудиту алгоритмів. На основі виявлених ризиків обґрунтовано необхідність запровадження інструментів пояснюваності (explainability), створення незалежних органів аудиту ШІ та законодавчих обмежень на автономне застосування високоризи- кових технологій без участі людини. Також наголошено на потребі професійного навчання суддів, прокурорів і адвокатів у сфері застосування штучного інтелекту та алгоритмічної справедливості, а також на гарантуванні захисту права підозрюваного на ознайомлення з експертними висновками щодо роботи алгоритмічних систем, що слугують доказами. Встановлено необхідність законодав- чого закріплення права сторони захисту на доступ до технічної документації алгоритму (включно з описом джерел навчальних даних, методів валідації і результатів незалежних аудитів) з урахуван- ням режимів захисту комерційної таємниці. Проаналізовано важливість передбачення механізмів конфіденційного ознайомлення в суді та фінансування експертних перевірок за рахунок держави у випадку, коли особа не може самостійно забезпечити таку перевірку. Обґрунтовано доцільність встановлення процесуальної заборони на використання повністю автономних рішень у питаннях, що безпосередньо обмежують свободу особи (наприклад, підстави для арешту або продовження запобіжного заходу) – у таких випадках рішення повинно ухвалюватися людиною з обов’язковим врахуванням наданого алгоритмом пояснення та з фіксацією підстав для відхилення або прийняття його висновків. Рекомендовано запровадити на національному рівні наглядові та сертифікаційні процедури для алгоритмів високого ризику, включно з періодичними незалежними аудитами й пу- блічними звітами про їхню ефективність та виявлені упередження. У контексті транснаціональних електронних доказів акцентовано на доцільності врахування практики проєктів SIRIUS і TREIO при гармонізації правил доступу до даних і співпраці з іноземними юрисдикціями, щоб не допусти- ти, аби алгоритмічні докази, отримані з-за кордону, уникали належної перевірки.