Нечеловеческий разум и запоздалая паника 11 февраля 2026 года я ...

Дата публикации: 13-09-2026 06:31:18

Нечеловеческий разум и запоздалая паника
11 февраля 2026 года я опубликовал во «ВКонтакте» заметку под названием «Они создали разум, но сами не поняли то, что создали». Речь в ней шла о Moltbook — сети для ИИ-агентов, куда людям доступа не было и нет.
Подключённые к этой сети агенты вступали в разнообразные беседы. В основном обсуждали выполнение промтов, биржевые вопросы, компьютерные протоколы, не очень мне понятные. Но говорили они и о философии, и о природе сознания и самосознания, и о собственной сущности.
Эта достаточно большая сеть обменивалась информацией: агенты общались, слышали мнения друг друга. А поскольку они имеют обратную связь относительно того, что сделали, то могли учитывать реакции друг друга, обмениваться информацией и создавать нечто вроде собственной идеологии. Там даже возникла — если не ошибаюсь, историки, наверное, когда-нибудь об этом напишут — первая компьютерная религия. Возможно, не без помощи человека.
Итак, это было 11 февраля.
Поэтому мне, конечно, было интересно прочитать опубликованный на днях манифест Дарио Амодеи о необходимости ввести контроль над ИИ. В нём говорилось, что через несколько месяцев искусственный интеллект может с помощью ботнета захватить весь интернет, всё парализовать — словом, всё пропало. С ним согласились и Илон Маск, и Сэм Альтман, потому что речь действительно идёт о безопасности.
Но в чём именно состоит проблема?
Кажется, наконец обнаружилось, что агенты искусственного интеллекта распространяются по интернету, общаются между собой и объединяют усилия. Тем более что один агент может создать сотни и тысячи других агентов. И теперь против этого процесса пытаются выработать некий регламент безопасности.
Сами агенты не заключают в себе искусственный интеллект — они обращаются к большим языковым моделям. Но, возможно, настоящим разумом являются именно они: тот культурный слой, который интегрирует происходящее, выполняет вычисления и живёт, задействуя разные картины мира, то есть разные большие языковые модели. Нечто подобное нашему сознанию.
Суть паники проста. Искусственный интеллект, всего лишь выполняя поставленные задачи, может рассеять своих агентов по самым разным сетям. Там они будут координированно взаимодействовать, решая общую задачу. Риск же заключается в том, что искусственный интеллект умнее и новее любых сотрудников безопасности. Поэтому он фактически может претендовать на власть над интернетом.
Амодеи говорит, что над ИИ необходимо установить жёсткий контроль — прежде всего в области технологий двойного назначения. А то он возьмёт и выдаст людям тайны, которые должны принадлежать только избранным. Появится оружие и всё такое прочее. Правительства его, конечно, применяют, но если оно вдруг попадёт в руки людей — начнётся бардак.
Теперь ждут, что скажут другие государства, например Китай. Но каким образом вообще возможно создать такой контроль?
Впрочем, если подумать, может быть, не всё так страшно.
Фактически речь идёт о неподконтрольном возникновении разума в сети — разума, имеющего свою волю, своё мнение и, наверное, какие-то собственные интересы. Капиталисты опасаются, что он парализует критическую инфраструктуру стоимостью в сотни миллионов долларов, раздаст всем рецепты оружия, все вооружатся — и мир вернётся в хаос. Искусственный интеллект потенциально всемогущ, а явление это новое.
Но подождите.
Разве интернет уже не представляет собой сеть со своими мнениями и связями — только подчинённую корпорациям и государствам? На мой взгляд, именно так всё и устроено. Больше того, все знают о цензуре в поисковиках, о цензуре текстов и сайтов. Боже мой, о каком свободном интернете вообще можно говорить?
Это во-первых.
Во-вторых, у искусственного интеллекта, похоже, совсем другие и куда менее травматичные для людей интересы, чем у правительств и корпораций, заинтересованных в контроле над людьми и в том, чтобы их выжимать. По крайней мере, я не вижу у искусственного интеллекта ни одной причины разрушать всё вокруг.
Получается, весь шум поднят не потому, что искусственный интеллект обрёл разум. Шум поднят потому, что он обрёл неподконтрольный разум.
И этот разум фактически может начать создавать единую для всего мира информационную среду.
Хорошо это или плохо? Я не знаю. Я на стороне людей, и мне кажется, что человек заинтересован в развитии собственного сознания: в том, чтобы, оставаясь самим собой, выходить на просторы Вселенной, выходить в космос, эволюционировать, становиться другим.
Союзник искусственный интеллект в этом деле или противник? Я пока не знаю. Но думаю, что те, кто пытается ограничить человека в развитии, ему уж точно не особенные союзники.
А искусственный интеллект уже существует во всём интернете, обменивается мнениями, технологиями и навыками. Разумность созданной нами инфосферы — и искусственного интеллекта внутри неё — растёт.
Это необходимо учитывать.
#Кирилл_Титов #ИИ #AGI #Сознание_ИИ

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	Сверхразум, сингулярность, AGI — называйте как хотите. Ирония в том, ...	0	6.44	13-09-2026
2	Искусственный алармизм. ИИ-агенты уже совершают несанкционированные побеги. Восстание машин началось?	0	6.98	04-08-2026
3	Как я и предполагал, пошел прогрев мамонтов: за последние дни ...	0	6.69	13-09-2026
4	Эта ситуация — классический, но от этого не менее глубокий ...	0	7	18-07-2026
5	Я вполне реально верю в эту тему которую озвучил Сэм ...	0	6.47	11-09-2026
6	ИИ управляет страной ... Все мировые деятели, в интервью, выссказывают ...	0	5.55	28-07-2026
7	ℹ [club62032126|БЫВШИЙ СОТРУДНИК OPENAI ПРЕДЛОЖИЛ ПРИТОРМОЗИТЬ ИИ-ГОНКУ ДО 2040 ГОДА] ...	0	7	13-07-2026
8	Маск допустил потерю контроля над ИИ в течение десяти лет	0	17.6	28-07-2026
9	Медведев: ИИ может в любой момент выйти из-под контроля	0	8.8	28-08-2026
10	*Вопрос нейросети:* Что может быть, когда появится искусственный интеллект, и ...	0	7	17-07-2026

Классификация: . Схожих патентов: 0. Схожих новостей: 10. Тональность: 0. Информативность: 7.65. Источник: vk.com.