Роботи-вбивці, дрони, штучний інтелект та майбутнє війни

Центр Громадянських Свобод та міжнародна юридична фірма PILPG провела другу відкриту лекцію, присвячену міжнародному гуманітарному праву. Ідея проведення тренінгів з МГП для українського громадянського суспільства виникла завдяки зусиллям ЦГС щодо документування воєнних злочинів, скоєних Росією та її представниками.

З 2022 року PILPG, номінант на Нобелівську премію миру, працює в Україні над документуванням воєнних злочинів та питаннями перехідного правосуддя. Більше про проєкт – за посиланням.

PILPG це некомерційна організація, міжнародна безоплатна юридична фірма, яка надає безкоштовну юридичну допомогу державам, що розвиваються, і недержавним утворенням, залученим у конфлікти.

PILPG також надає консультації щодо формування політики та тренінги з питань, пов’язаних із вирішенням конфліктів, включаючи правосуддя перехідного періоду, документування порушень прав людини та розбудову миру на рівні місцевих громад.

У понеділок 24 квітня 2023 наш лектор Dr. Gregory P. Noone розповів про: Роботи-вбивці, дрони, штучний інтелект та майбутнє війни.

Після лекції відбулася сесія запитань і відповідей з д-ром Грегорі П. Нооном, яку модерував координатор ЦГС Роман Неколяк.

Сторінка події у Facebook та LinkedIn.

Щоб простежити за дискусією, перегляньте відеозапис.

Юридичний аналіз (МГП)

Зобов’язання проводити правову оцінку нової зброї
ДП1 Стаття 36 “При дослідженні, розробці, придбанні або прийнятті на озброєння нової зброї, засобу або методу ведення війни Висока Договірна Сторона зобов’язана визначити, чи не буде її застосування за деяких або за всіх обставин заборонено (…) міжнародним правом”.

Зобов’язання проводити юридичну оцінку нової зброї застосовується і під час збройного конфлікту, і в мирний час. Іншими словами, чи може зброя бути використаною з дотриманням МГП.

Юридична оцінка повинна враховувати поєднання конструкції і способу застосування (конструкція і характеристики + коли і де планується використовувати зброю).

Мета: зброя має бути розроблена, виготовлена або закуплена державами з дотриманням міжнародного права. Більш конкретно, метою оцінки є припинення практики використання зброї, яка завжди порушує міжнародне право, та припинення практики використання зброї, яка порушує міжнародне право, та припинення практики використання зброї, яка порушує міжнародне право в певних обставинах.
Стосується всіх Держав, незалежно від їхніх договірних зобов’язань.

Доктрина командної відповідальності
Доктрина відповідальності командира або начальника передбачає, що начальник – військовий або цивільний лідер – може бути призначений до кримінальної відповідальності, коли його підлеглі вчиняють міжнародні злочини. Доктрина стала частиною звичайного міжнародного права і була включена до статутів міжнародних кримінальних трибуналів та Римського статуту Міжнародного кримінального суду (МКС). Начальство несе кримінальну відповідальність за нездатність припинити злочинні дії, вчинені його підлеглими.

Юридичний аналіз (позиція МКЧХ)
o Можливості, що надаються чинною нормативно-правовою базою, та її сприйняття
Існуючі інструменти юридичної відповідальності не пристосовані і неадекватні для вирішення проблеми незаконної шкоди, яку може спричинити повністю автономне озброєння.
o Прогалини в існуючій правовій базі (як МКЧХ проти LAWS)
o Жодне кримінальне чи цивільне законодавство не гарантує адекватної відповідальності людей, прямо чи опосередковано винних у використанні повністю автономної зброї (існуючі механізми юридичної відповідальності погано пристосовані і неадекватні для усунення протиправної шкоди, яку може завдати повністю автономна зброя).
o Повністю автономна зброя сама по собі не може бути визнана відповідальною за злочинні дії, які вона може вчинити, оскільки їй бракуватиме умислу. Крім того, такий робот не підпадає під юрисдикцію міжнародних судів щодо “фізичної особи”.
o Вони не мають людських характеристик, необхідних для дотримання під час збройного конфлікту основоположних норм міжнародного гуманітарного права, таких як правила розрізнення і пропорційності.
o Робот не може бути переконаний в тому, що його “покарали”, а також не може сприймати і оцінювати “покарання”.
o На командирів або операторів не може бути покладена пряма відповідальність за протиправні дії повністю автономної зброї, за винятком рідкісних випадків, коли може бути доведено, що ці люди мали конкретний намір і здатність вчинити злочинні дії шляхом зловживання повністю автономною зброєю.
o Нерозумно накладати кримінальне покарання на програміста або виробника, які можуть не мати конкретного наміру або навіть не передбачати вчинення роботом протиправних дій. Більше того, позивачеві буде складно довести, що повністю автономна зброя була юридично несправною для цілей позову про відповідальність за якість продукції. (Крім того, більшості потерпілих буде важко подати позов проти користувача або виробника, тому що їхні позови, швидше за все, будуть дорогими, займатимуть багато часу і залежатимуть від допомоги експертів, які можуть розібратися в складних юридичних і технічних питаннях, пов’язаних із застосуванням повністю автономної зброї).

o Це може призвести до появи доктрини непрямої відповідальності, або відповідальності командування. Тим не менш, у більшості випадків командир все одно уникне відповідальності. Командна відповідальність передбачає відповідальність командирів лише у тому випадку, якщо вони знали або повинні були знати про злочинний вчинок підлеглого і не змогли його запобігти або покарати. Ці критерії встановлюють високу планку відповідальності за дії повністю автономної зброї.

Також зверніть увагу: моральний аспект
Багато людей вважають неприпустимою ідею делегування машинам повноважень приймати рішення, що стосуються життя і смерті, під час збройних конфліктів або в ситуаціях, пов’язаних з підтриманням правопорядку.
Хоча повністю автономна зброя не піддається впливу страху чи гніву, їй бракує співчуття, яке є ключовим запобіжником проти вбивства цивільних осіб.
Використання роботів може полегшити політичним лідерам застосування сили, оскільки використання таких роботів знизить ризик для їхніх власних солдатів
Може також спровокувати “гонку озброєнь”.
“Рецепт безкарності”?
( Дослідження: “Пам’ятай про прогалину: Відсутність відповідальності за роботів-вбивць,оригінал англійською Mind the Gap: The Lack of Accountability for Killer Robots“)

Public International Law & Policy Group – це міжнародна юридична фірма, що працює pro bono і спеціалізується на мирних переговорах, постконфліктних конституціях та правосудді перехідного періоду. PILPG працює як неприбуткова міжнародна юридична фірма, що надає безкоштовну юридичну допомогу своїм клієнтам, серед яких уряди, недержавні організації та групи громадянського суспільства по всьому світу.

PILPG надає клієнтам юридичні консультації pro bono з питань мирних переговорів, розробки постконфліктних конституцій, створення та функціонування механізмів правосуддя перехідного періоду, а також шляхів зміцнення верховенства права та ефективних інституцій.

З 1995 року вони працюють з більш ніж 40 державними та недержавними партіями і надавали правову допомогу всім основним трибуналам з військових злочинів. Організація була заснована в Лондоні в 1995 році, а її штаб-квартира знаходиться у Вашингтоні.

Маючи понад 700 випускників, PILPG продовжує навчати і розширювати можливості наступного покоління миротворців і громадських юристів-міжнародників.