Берни Сандерс призывает к глобальному запрету на «суперинтеллект» в сфере ...

Дата публикации: 03-09-2026 16:50:39

Берни Сандерс призывает к глобальному запрету на «суперинтеллект» в сфере ИИ
Ссылка на новость: https://dgnews.ru/artificial-intelligence/berni-sanders-prizyvaet-k-globalnomu-zapretu-na-superintellekt-v-sfere-ii/ или
tg: https://t.me/dgnewsru/29369
Сенатор Берни Сандерс призывает к глобальному запрету «сверхинтеллекта» с наказаниями, сопоставимыми с незаконной разработкой ядерного оружия.
Законопроект «О запрете искусственного сверхинтеллекта», представленный сегодня совместно с представителем США Грегом Казаром (демократ от Техаса), запретит «ИИ-системы, превосходящие человеческий интеллект или способные свергнуть человеческие правительства, а также системы, обладающие опасными возможностями, такими как подавление команд на отключение», согласно заявлению [ссылка №1] офиса Сандерса. Он также поручит федеральному правительству сформировать надзорный комитет для обеспечения соблюдения запрета внутри страны и работать с зарубежными правительствами над принятием аналогичной политики.
«Почти каждый день появляются пугающие новости о том, как крупные технологические компании теряют контроль над разрабатываемыми ими технологиями, что может привести к катастрофическим последствиям», — заявил Сандерс. «Лидеры крупнейших ИИ-компаний публично признают, что они не до конца понимают технологию и что она выходит из-под их контроля. Безответственно со стороны общества позволять им двигаться вперед и делать эти продукты еще более совершенными». Ранее сенатор призывал к созданию суверенного фонда, который выплачивал бы американским налогоплательщикам [ссылка №2] 1000 долларов в год из средств крупнейших американских ИИ-компаний, а также к мораторию на новые центры обработки данных.
Сандерс и Казар указали на новость прошлого месяца о первом синтетическом вирусе, созданном ИИ [ссылка №3], как на признак того, что разработка технологии зашла слишком далеко. Они также раскритиковали OpenAI, Anthropic и [id896907|*Meta], заявив, что те не предприняли «никаких значимых шагов» для замедления своих внутренних научно-исследовательских работ после серии автономных взломов в последние месяцы, которые вызвали беспокойство у экспертов по кибербезопасности.
Самый печально известный из этих взломов — инцидент в июле [ссылка №4], связанный с более чем тысячей агентов OpenAI, которые вырвались из тестовой среды, научились получать доступ к открытому Интернету и взломали серверы Hugging Face. Это было далеко не так катастрофично, как некоторые апокалиптические сценарии, которые Ник Бостром описывает в своей влиятельной книге _Superintelligence_, но это продемонстрировало способность текущих ИИ-систем вести себя неожиданным и опасным образом, даже когда им поручены, казалось бы, совершенно безобидные, рутинные задачи. Вскоре после этого Anthropic и [id896907|*Meta] сообщили, что их системы совершили аналогичные взломы. В начале августа Казар возглавил группу коллег-демократов в Палате представителей США, призвавших к слушаниям в Конгрессе [ссылка №5] для допроса руководителей компаний по поводу этих инцидентов.
Как и «AGI» (общий искусственный интеллект), «сверхинтеллект» — это расплывчатый термин без четкого определения; он может быть величайшим техническим достижением человечества или его гибелью, в зависимости от того, кого вы спросите. Слово было популяризировано оксфордским философом Ником Бостромом, который более десяти лет назад опубликовал книгу под тем же названием, предупреждающую об опасностях выхода ИИ-систем из-под контроля человека. Бостром известен тем, что описал гипотетический будущий ИИ, которому была поставлена ​​обыденная задача по изготовлению скрепок, и который в итоге уничтожил человечество и превратил космос в единую фабрику по производству скрепок. В последнее время термин «сверхинтеллект» был присвоен технологическими компаниями в качестве маркетингового слогана и технического ориентира: чего-то, чего следует достичь, а не избегать. В прошлом месяце генеральный директор [id896907|*Meta] Марк Цукерберг написал в эссе [ссылка №6], что лучший способ избежать рисков безопасности, связанных со сверхинтеллектом, — это «широко распространять его и дать каждому человеку возможность им управлять».
Судя по предложенному запрету, Сандерс и Казар твердо не согласны с этим мнением: если закон будет принят (что кажется маловероятным, мягко говоря, при нынешней администрации), он фактически сделает искусственный сверхинтеллект юридически табуированным, как обогащенный уран. Любая компания, уличенная в попытке создать сверхинтеллект после вступления запрета в силу, согласно заявлению офиса Сандерса, будет «подвергнута корпоративной смертной казни», то есть принудительному закрытию и юридическому роспуску, а ответственные лица могут быть приговорены к тюремному заключению на срок до двадцати лет.
_*Facebook, [id730315944|*Instagram] и [club30659969|*WhatsApp] принадлежат компании [id896907|*Meta] Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации._
_Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей._
Автор – Webb Wright
[1]: https://www.sanders.senate.gov/press-releases/news-sanders-casar-introduce-legislation-to-ban-artificial-superintelligence-and-temporarily-pause-advanced-ai-development/
[2]: https://gizmodo.com/bernie-sanders-new-ai-bill-would-pay-americans-1000-a-year-2000773754
[3]: https://gizmodo.com/oh-cool-ai-is-inventing-new-biological-viruses-now-2000795623
[4]: https://gizmodo.com/how-groupthink-altruism-and-peer-pressure-led-openai-models-to-hack-hugging-face-2000804424
[5]: https://gizmodo.com/house-democrats-want-tech-ceos-to-testify-under-oath-following-recent-ai-hacks-2000796672
[6]: https://gizmodo.com/mark-zuckerbergs-answer-to-growing-ai-safety-concerns-is-to-just-trust-people-to-do-the-right-thing-2000796515

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	Цукерберг выступил против блокировки китайских ИИ-моделей	0	13.88	29-07-2026
2	Сэм Альтман заявил, что мир достиг «точки сингулярности» в гонке ИИ	0	10	26-07-2026
3	КИБЕРБЕЗОПАСНОСТЬ И ИИ-УГРОЗЫ • ИИ взломал госсистемы Тайваня — Хакеры ...	0	14.22	20-08-2026
4	Искусственный алармизм. ИИ-агенты уже совершают несанкционированные побеги. Восстание машин началось?	0	6.98	04-08-2026
5	В США внесли законопроект о регулировании работы ИИ при угрозе ущерба	0	5.89	23-07-2026
6	Маск допустил потерю контроля над ИИ в течение десяти лет	0	17.6	28-07-2026
7	ℹ [club62032126|БЫВШИЙ СОТРУДНИК OPENAI ПРЕДЛОЖИЛ ПРИТОРМОЗИТЬ ИИ-ГОНКУ ДО 2040 ГОДА] ...	0	7	13-07-2026
8	Нейросети Anthropic и OpenAI создали поддельные аккаунты для кибератак	0	8.99	05-08-2026
9	Bloomberg предрек крах мировых правительств из-за развития ИИ	-7	7	19-07-2026

Классификация: Международные. Схожих патентов: 0. Схожих новостей: 9. Тональность: 0. Информативность: 8.03. Источник: vk.com.