Россия и США оказались в центре нового спора о правилах применения искусственного интеллекта ИИ) в военной сфере. The Washington Post сообщила, что на переговорах в Женеве две страны фактически заблокировали подготовку юридически обязывающего соглашения по смертоносным автономным системам вооружений и добились удаления из документа ряда положений о контроле человека над решениями ИИ.

Переговоры в Женеве 31 августа — 4 сентября прошли на фоне обострившихся дискуссий о возможных последствиях неконтролируемого развития ИИ, в том числе и в военной сфере. Позиция России и США стала поводом для упреков в западных СМИ в их адрес в якобы нежелании контролировать применение автономных систем вооружений и закрепить контроль человека над принимаемыми ИИ решениями. Упреки в адрес США стали особенно острыми из-за позиции американских властей по повсеместному внедрению ИИ в военную сферу и необходимости дальнейшего развития отрасли, несмотря на возможные риски.

Однако, как отметил в разговоре с «Лентой.ру» главный научный сотрудник Дипломатической академии МГИМО МИД России Вадим Козюлин, фактически усилия России и США как раз были направлены на попытки исправить документ, избавив его от оценочных суждений и приведя в соответствие с существующими нормами международного гуманитарного права. По его мнению, в действительности ряд участвовавших в обсуждении экспертов попытались внести в проект соглашения размывавшие его содержание нормы о соблюдении прав человека и этических принципов.

Фото: Andrey_Popov / Shutterstock / Fotodom

Переговоры в Женеве стали ключевым пунктом заседания ГПЭ — официального переговорного формата государств-участников Конвенции о «негуманном» оружии (КНО), созданного для обсуждения регулирования и гуманитарных аспектов применения автономного военного оборудования.

Переговоры в Женеве не стали окончательным этапом обсуждений соглашения по ИИ в военной сфере: в ходе Седьмой Обзорной конференции КНО 16-20 ноября участники конвенции вновь обсудят возможность перевода консультаций по урегулированию в официальный мандат или юридически обязывающее соглашение. При этом срок действия мандата самой ГПЭ истекает в 2026 году, и, как отмечают в Министерстве иностранных дел (МИД) России, сентябрьская встреча в Швейцарии стала последней в рамках трехлетнего цикла работы текущего состава группы.

Штаб-квартира Министерства войны США (Пентагон)

Фото: Nathan Howard / Reuters

12 сентября глава одной из крупнейших компаний в сфере ИИ Anthropic Дарио Амодеи обеспокоился ускоряющимся ростом возможностей искусственного интеллекта и допустил возможность захвата интернета роями агентов нейросетей. Его идею трехступенчатого плана по сдерживанию гонки ИИ-систем поддержал основатель компаний SpaceX и Tesla Илон Маск.

При этом президент США Дональд Трамп в ответ заявил о «безумном заговоре» против ИИ и назвал условием эффективного контроля наличие «умного президента», намекнув на себя. По его словам, Белому дому благодаря имеющимся полномочиям по урегулированию удалось удержать от совершения «плохих» поступков «всех» техногигантов, включая Дарио Амодеи.

Дискуссии о роли ИИ в военной сфере обострились на фоне конфликта на Ближнем Востоке: например, по информации WP, интеллектуальная система для анализа данных Maven Smart System от компании Palantir могла предложить в марте школу для девочек в иранском Минабе в качестве цели для удара армии США, в результате чего погибло более ста человек. По утверждению CNN, созданный нейросетью отчет весной также едва не привел Вашингтон к конфликту с КНР из-за предложения ударить по китайскому торговому судну в Ормузском проливе.

Как отметил Вадим Козюлин, на дискуссии влияют не только темпы развития ИИ, но и существенное сокращение цикла принятия решений: в частности, он указал на попытки армии США внедрить оперативное принятие решений от обнаружения цели до ее поражения за считанные секунды. Эксперт также отметил распространение роев беспилотных летательных аппаратов с ИИ, способных выполнять задачу даже при потере соединения с оператором.

Фото: SeventyFour / Shutterstock / Fotodom

11 апреля президент России Владимир Путин во время совещания по развитию искусственного интеллекта призвал разработать отечественные решения для национальной обороны. Путин подчеркнул, что в целом во внедрении ИИ есть пять приоритетных направлений, включая использование искусственного интеллекта в социальной сфере и экономике, а также в чувствительных секторах.

Комментируя итоги встречи в Женеве, МИД России отметил полную применимость к САС действующего международного гуманитарного права, а также принятие консенсусом стран-участников рабочего определения таких систем вооружений. В ведомстве указали на необходимость снижения возможных рисков, связанных с их использованием.

Как отмечает Вадим Козюлин, в ходе переговоров по урегулированию ИИ в военной сфере и Россия, и США придерживаются точки зрения, что основными субъектами, регулирующими распространение и применение технологии, являются прежде всего государства. Он напомнил, что существующие нормы международного гуманитарного права предусматривают ответственность конкретных лиц в случае совершения возможных военных преступлений, в том числе и с использованием искусственного интеллекта. «Применение ИИ не отменяет ответственности человека, командования и государства за соблюдение МГП. Автономность отдельных технических функций не означает появления "безответственного" оружия: решения о разработке, развертывании и применении таких систем принимаются людьми и государственными структурами», — подчеркнул политолог.

Комментируя возможность появления аналогичных Maven российских систем анализа данных, Козюлин отметил, что с большой долей вероятности Россия если не уже разработала данную систему, то как минимум ведет работы в данном направлении. Эксперт подчеркнул, что данная сфера является одним из главных трендов развития ИИ по всему миру.

Фото: DC Studio / Shutterstock / Fotodom

По мнению Вадима Козюлина, с большой долей вероятности предполагаемое соглашение по регулированию ИИ в военной сфере будет содержать рамочные принципы, опирающиеся на уже существующие нормы международного гуманитарного права.

Политолог усомнился в возможности создания организации в сфере урегулирования ИИ, аналогичной Международному агентству по атомной энергии (МАГАТЭ). Он указал на сложность создания механизма верификации и контроля распространения технологий ИИ из-за потенциальной степени секретности передовых разработок, а также большого количества пользователей продукта.

По мнению Козюлина, существенным фактором остается позиция Пентагона по данному вопросу: американские военные осознают сложность контроля за ИИ с учетом быстрого развития технологий.