Президент США Дональд Трамп 29 сентября заключил декларативное соглашение об ответственности с крупнейшими американскими компаниями в сфере развития искусственного интеллекта. Документ привлек внимание не только потому, что под подписью Трампа была сделана опечатка в названии страны, которую он возглавляет, но и из-за новой позиции президента по вопросу о потенциальном вреде ИИ. Какую цель может преследовать это соглашение и почему оно появилось именно сейчас — в материале «Известий».

• Опубликованные президентом США Дональдом Трампом «Совместные обязательства об ответственности при работе с передовыми технологиями» (Joint Commitment on Frontier Responsibilities) рекомендуют компаниям-разработчикам в сфере искусственного интеллекта усовершенствовать внутренние механизмы контроля над технологиями. Этот контроль должен иметь четыре уровня: внутренний мониторинг ИИ-моделей во время обучения, контроль со стороны уполномоченной внутренней команды, независимый внешний аудит и аудит со стороны специально назначенного независимого комитета в совете директоров компании. Хотя само соглашение не предусматривает никакой ответственности за его нарушение, Трамп назвал его «морально обязывающим» и сравнил по значимости с «конституцией».

• Сторонами соглашения стали крупные компании-разработчики на рынке ИИ — Anthropic, SpaceXAI, OpenAI, Nvidia, Meta (признана экстремистской и запрещена в России) и Google. Ранее руководство компаний OpenAI и Anthropic сообщало о тревожных инцидентах в процессе обучения своих передовых моделей: ИИ-агенты проникали в интернет из изолированной среды и взламывали сайты сторонних компаний (подробнее о бунте ИИ мы рассказывали здесь). Ранее скептически настроенные аналитики отмечали, что ИИ-гиганты пугают людей развитием технологий и призывают к ограничению разработок с конкретными целями: прорекламировать возможности своей продукции, вернуть внимание инвесторов к ИИ-сфере и закрыть рынок от новых игроков. Сам Трамп до заключения соглашения утверждал, что существующего контроля за ИИ со стороны разработчиков вполне достаточно.

• Несмотря на то что соглашение между администрацией США и ИИ-гигантами носит декларативный характер, оно создает риск регуляторного сговора на рынке искусственного интеллекта. Тем более что в тексте документа прописано, что «компании-участники будут регулярно встречаться для разработки стандартов и передовых практик», которые в дальнейшем «могут быть закреплены в виде законов». Получается, что вырабатывать стандарты, которые впоследствии могут стать основой регулирования всего рынка ИИ, будут те шесть компаний, которые подписали соглашение. Поскольку критериев независимости аудита не заявлено, они могут формировать выгодные для себя критерии.

• Если разработанные участниками соглашения стандарты впоследствии станут обязательными для всего рынка, небольшие компании могут оказаться в менее выгодном положении: им будет сложнее найти финансовые и административные ресурсы для многоуровневого аудита. Таким образом, документ может повысить барьер для выхода на рынок новых ИИ-стартапов и защитить ведущих игроков от конкурентов. Одной из целей соглашения может быть закрепление доминирующего положения американских ИИ-компаний, поскольку помимо разработки стандартов они смогут обмениваться «передовыми практиками».

• Документ призван успокоить электорат накануне выборов в конгресс США. Опасения по поводу развития ИИ, которые отчасти спровоцировали сами компании-разработчики своими публичными заявлениями, негативно отражаются на рейтинге Трампа и Республиканской партии. Опрос SSRS/CNN показал, что 71% американцев винит правительство в недостаточном регулировании сферы ИИ.

• К тому же среди американцев нарастает недовольство расширением деятельности ИИ-компаний: из-за строительства дата-центров растет стоимость электричества и истощаются ресурсы пресной воды, которую используют для охлаждения серверов. Согласно опросу New York Times/Siena College, проведенному 8–13 сентября, 61% избирателей выступил против строительства дата-центров для ИИ. Поэтому, вероятно, соглашение должно сыграть на опережение, успокоить американцев и продемонстрировать ужесточение политики Трампа, ранее очень лояльного к ИИ-компаниям.

• В то же время соглашение позволяет Трампу совместить общественный запрос на усиление контроля над ИИ с нежеланием ограничивать развитие американских технологий. Администрация США рассматривает лидерство в сфере искусственного интеллекта как одно из условий экономической и технологической конкуренции с Китаем, поэтому введение жесткого государственного регулирования может противоречить ее собственной стратегии ускоренного развития отрасли. Добровольное соглашение позволяет продемонстрировать усиление контроля, не вводя новых обязательных ограничений: ответственность за разработку стандартов безопасности при этом в значительной степени перекладывается на сами ИИ-компании.