Два “крестных отца” современного ИИ и руководители высшего звена компаний OpenAI и Anthropic предупредили правительства о необходимости готовиться к “интеллектуальному взрыву” ИИ, который, по их словам, может стать самым значительным технологическим достижением в истории.

В докладе, подготовленном в соавторстве нобелевским лауреатом Джеффри Хинтоном и канадским ученым-компьютерщиком Йошуа Бенгио, которых считают крестными отцами современного искусственного интеллекта за их работу в этой области, содержится призыв к политикам действовать сейчас, пока технология не достигла стремительного прогресса.

Авторы говорят, что они обеспокоены “интеллектуальным взрывом", который они описывают как "резкое ускорение прогресса ИИ, приводящее к сокращению достижений, которые в противном случае заняли бы годы, до нескольких месяцев или даже меньше”.

Статья под названием “Что, если автоматизация исследований и разработок в области искусственного интеллекта приведет к взрыву интеллекта?” написана более чем 20 людьми, включая Хинтона и Бенжио. Среди других авторов статьи - Джек Кларк, соучредитель компании Anthropic, и Якуб Пачоки, главный научный сотрудник OpenAI.

Их опасения, пишет The Guardian, сосредоточены на возможности улучшения ИИ без вмешательства человека, этот процесс известен как “рекурсивное самосовершенствование”. В статье он широко упоминается как автоматизированные исследования и разработки в области ИИ. Как только системы искусственного интеллекта достигнут экспертного уровня в области исследований и разработок в области искусственного интеллекта, один разработчик сможет управлять персоналом, эквивалентным “миллионам” ведущих исследователей-людей, говорится в документе.

Авторы говорят, что автоматизация исследований и разработок в области искусственного интеллекта является наиболее вероятным источником интеллектуального взрыва, поскольку ИИ уже вносят свой вклад в совершенствование своих собственных технологий, и в результате улучшенные системы могут быть быстро развернуты после их создания.

“Интеллектуальный взрыв может стать самым значительным технологическим достижением в истории человечества, сократив годы прогресса до месяцев или даже меньше, угрожая контролю человека над системами искусственного интеллекта и серьезно ослабляя контроль над властью внутри государств, компаний и ветвей власти и между ними”, - говорится в документе.

Призывая правительства быстро принять меры, авторы говорят: “Как только начнется информационный взрыв, возможности для действий могут закрыться”.

Они рекомендовали три приоритетных направления политики: требовать прозрачных отчетов о ходе исследований и разработок, связанных с ИИ, включая внедрение независимых аудиторов в компании; находить способы сдерживания стремительного развития ИИ; и готовиться адаптироваться к взрыву интеллектуальных данных.

И Anthropic, и OpenAI согласились на то, чтобы их модели оценивались независимыми экспертами, после предупреждения о том, что разработка искусственного интеллекта достигла критического уровня с точки зрения безопасности.

Anthropic утверждает, что ИИ сейчас создает 80% своего собственного кода, в то время как OpenAI использует автономных агентов ИИ в таких областях, как обучение новых моделей.

”Предварительные данные свидетельствуют о том, что возможен взрыв интеллекта, управляемого программным обеспечением“, - говорится в документе, добавляя, что это приведет к "чрезвычайно быстрому развитию высокопроизводительных или сверхчеловеческих систем искусственного интеллекта”.

Хотя это может привести к прорывам в медицине и технологическим скачкам, это сопряжено с тремя рисками: мощные системы могут привести к биологическим и киберугрозам, которые развиваются быстрее, чем меры, необходимые для противодействия им; поскольку люди все меньше вовлекаются в исследования и разработки в области искусственного интеллекта, они могут потерять возможность контролировать системы; государства могут использовать альтернативный подход. интеллектуальный взлет, позволяющий превратить скромное лидерство в таких областях, как киберпространство, в решающее.

В статье признается, что эти последствия “неопределенны”. Например, для осуществления технологического прорыва может потребоваться время, учитывая необходимость создания цепочек поставок любых специальных материалов или соблюдения нормативных требований. Системы искусственного интеллекта также могут ускорить снижение рисков, говорят авторы.

“Если ”прорыв" произойдет, - утверждают авторы, - системы искусственного интеллекта могут быстро затмить специалистов-людей в большинстве областей и "радикально ускорить" технологический прогресс". Подготовка к этому “должна стать неотложным приоритетом, в том числе на самых высоких уровнях государственного руководства”.

Они говорят, что правительствам следует рассмотреть политику, направленную на устранение потенциального интеллектуального взрыва, в том числе: требовать прозрачных отчетов о ходе исследований и разработок, связанных с ИИ, включая внедрение независимых аудиторов в компании; ограничивать скорость совершенствования ИИ за определенный период времени; работать с центрами обработки данных, чтобы приостановить определенные исследования и разработки в области ИИ. проекты; обеспечение полной изоляции автоматизированных систем исследований и разработок в области искусственного интеллекта и невозможности выхода их под контроль человека; создание “планов реагирования на чрезвычайные ситуации” для различных сценариев, которые могут возникнуть в результате интеллектуального взрыва.

Несмотря на некоторые сбои в работе систем, такие как несоблюдение инструкций, научно-исследовательские проекты, на выполнение которых у людей ушли бы месяцы, могут быть полностью автоматизированы с помощью искусственного интеллекта к 2028 году. “Повышение производительности за счет автоматизации исследований и разработок в области искусственного интеллекта еще не достигло порога, необходимого для того, чтобы вызвать взрыв интеллектуальных способностей, но выгоды от новых систем, вероятно, приближаются к этому порогу”, - сказали авторы алармистского документа.