Автономні системи з ШІ у збройних конфліктах та правове забезпечення дотримання принципу розрізнення

Анотація

Стаття присвячена аналізу проблем дотримання принципу розрізнення міжнародного гума- нітарного права при використанні автономних систем зі штучним інтелектом під час збройних конфліктів. Досліджено технічні обмеження сучасних автономних систем із ШІ трьох рівнів авто- номності (Human-in-the-Loop, Human-on-the-Loop, Human-out-of-the-Loop), включаючи безпілот- ні літальні апарати, «рої» дронів, автономні системи наведення, роботизовані бойові платформи тощо. Виявлено критичну проблему «семантичного розриву» між алгоритмічним розпізнаванням об’єктів та розумінням їх значення в контексті збройного конфлікту, що унеможливлює надій- ну ідентифікацію комбатантів у складних бойових умовах. Проаналізовано досвід застосування таких систем у сучасних збройних конфліктах, зокрема випадки атак на цивільні об’єкти. Вста- новлено правові прогалини в регулюванні використання автономних систем з ШІ, зокрема неви- значеність механізмів встановлення відповідальності за порушення міжнародного гуманітарного права. Критично оцінено пропозиції наукової спільноти щодо повної заборони автономних сис- тем із ШІ та обґрунтовано більш реалістичний підхід. Запропоновано трикомпонентну модель за- безпечення дотримання принципу розрізнення при використанні автономних систем із ШІ: ство- рення Міжнародної агенції з контролю автономних систем озброєння під егідою ООН/UNODA з детальною структурою та повноваженнями; розробку трирівневої процедури сертифікації систем з вимогою 99% точності розпізнавання; проект Конвенції про тимчасовий мораторій на повністю автономні системи з ШІ. Обґрунтовано необхідність збереження значущого контролю людиною над критичними функціями таких систем. Враховуючи ймовірну відсутність політичної волі про- відних держав-розробників таких систем, запропоновано альтернативні механізми: Директиву ЄС, міжнародний стандарт ISO, керівництво МКЧХ, добровільний кодекс поведінки виробників. Розвинуто ідею створення спеціального правового режиму для миротворчих безпілотників з бага- торівневою системою захисту через візуальні, електронні та програмні ідентифікатори.