Обмеження та відповідальність за використання штучного інтелекту у збройних конфліктах: національний і міжнародний виміри

Анотація

У статті досліджуються існуючі міжнародні та національні підходи до обмеження штучного інтелекту, що використовується у воєнній промисловості. Ставиться під питання, чи забезпечують Женевські конвенції достатню кількість запобіжних заходів для суб’єктів міжнародного гуманітарного права, які мають наміри застосовувати автономні системи під час збройних конфліктів. Розглянуто історію становлення поняття «штучний інтелект» на прикладі національних теорій науковців.

Проведено паралелі правосуб’єктності особи та комп’ютера, наділеного розумовими здібностями, мисленням та поведінкою людини, задля з’ясування можливості встановлення відповідальності для штучного інтелекту. Встановлено, що «штучність» інтелекту у військових системах не є автономією в розумінні автономії волі людини. А правосуб’єктність штучного інтелекту виключає можливість притягнення комп’ютера до відповідальності у зв’язку з відсутністю правового бачення його як повноцінного суб’єкта правовідносин.

Детально розглянуто питання відповідальності за використання штучного інтелекту у збройних конфліктах в межах міжнародних суб’єктів – держав та міжнародних організацій, а також національних – командирів, виробників, розробників та операторів.

За результатами дослідження зроблено висновок, що обмеження використання штучного інтелекту має зводитися до прямої заборони алгоритмічного мислення у новітній зброї без прямого контролю людини. Щоб можна було говорити про міжнародно-правову відповідальність в порушення норм права війни комбатант має лишатися єдиним суб’єктом притягнення. А штучний інтелект у системах озброєнь мусить лишатися неавтономним джерелом інформації для проведення аналізу поля бою оператором або командиром. Як-от використання штучного розуму у системах протиповітряної оборони, у супутниках чи дронах розвідниках. Будь-яка смертельна зброя за участі штучного інтелекту обмежується моделлю «human-in-the-loop», а прийняття державами Женевських конвенцій та додаткових протоколів до них встановили запобіжні заходи щодо використання автономної зброї під час збройних конфліктів.