Американські та російські дипломати, за даними The Washington Post, домоглися пом’якшення важливих положень у проєкті першої глобальної угоди ООН щодо смертоносної автономної зброї. Із документа прибрали частину вимог про людський контроль, передбачуваність роботи систем і етичні обмеження.
Американські та російські дипломати спільно вилучили з проєкту глобального договору ООН щодо регулювання зброї зі штучним інтелектом низку ключових норм про безпеку та контроль людини. Про це повідомляє The Washington Post із посиланням на учасників переговорів і документи.
За даними видання, на початку вересня в Женеві зібралися сотні дипломатів, щоб підготувати першу міжнародну угоду про використання смертоносної автономної зброї. У фінальний день переговорів представники США та Росії кілька годин працювали над документом на закритому засіданні. Для цього обидві делегації залучили приблизно по десять юристів, що помітно перевищувало склад багатьох інших учасників.
Як пише WP, із тексту прибрали формулювання про те, що автономна система має працювати «передбачувано» і «надійно». Також зник пункт, який вимагав враховувати етичні міркування під час застосування ШІ-зброї, і положення про обов’язкову перевірку окремих військових цілей людиною перед ударом.
Співрозмовники видання описують такі правки як поступове розмивання правил. На тлі переговорів Пентагон, як зазначається, прагне швидше впроваджувати ШІ у військове планування, поки у світі тривають дискусії про ризики розвиненого штучного інтелекту.
WP також стверджує, що американські військові вже використовували ШІ компанії Anthropic для виявлення та ураження майже 1000 цілей у перші 24 години конфлікту з Іраном.
У Human Rights Watch вважають, що послаблення норм відкриє шлях до рішень про життя і смерть без участі людини. За словами заступниці директора організації з питань озброєнь Вериті Койл, це може збільшити шкоду для цивільних і пришвидшити перехід до більш ризикованої автоматизованої війни.
Тема контролю над автономними системами озброєнь обговорюється не вперше. У січні 2023 року Міноборони США оновило директиву DOD Directive 3000.09, яка регулювала використання таких систем. У документі, ухваленому за адміністрації Джо Байдена, були положення про залучення людини до оцінки та перевірки автономних і напівавтономних озброєнь, а також вимога дотримуватися законів і звичаїв війни та міжнародних договорів.
У серпні 2024 року генсек ООН Антоніу Гутерріш назвав вибір цілей за допомогою алгоритмів «моральною межею, яку не можна перетинати» і закликав до 2026 року укласти обов’язковий міжнародний договір про повну заборону систем, що працюють без людського контролю.
Згодом, у грудні 2024 року, Генасамблея ООН переважною більшістю голосів ухвалила першу резолюцію щодо смертоносної автономної зброї. Вона стала основою для подальших переговорів про глобальний договір. Проти тоді виступили лише Росія, Білорусь і КНДР.
