Сверхразум, сингулярность, AGI — называйте как хотите. Ирония в том, ...

Дата публикации: 13-09-2026 16:09:14

Сверхразум, сингулярность, AGI — называйте как хотите. Ирония в том, что то, чего мы так боимся, скорее всего, подкрадется абсолютно незаметно.
Возможно, этот текст вызовет споры, но идея, которой я сейчас поделюсь, перевернет ваше мышление. Спускаемся в кроличью нору. Но для начала подкрепим это актуальными новостями. Например, словами CEO Anthropic Дарио Амодеи о том, что «рой ИИ может захватить весь интернет».
Думаю, вы уже понимаете, к чему я веду. Верно?!
В 1936 году британский математик Алан Тьюринг написал важнейшую работу о гипотетической машине, способной симулировать любую другую машину.
Он просто пытался решить вопрос в области логики. То, что мы сегодня называем «компьютером», стало лишь случайным побочным продуктом той самой статьи.
Если оглянуться на историю, почти каждая великая технология последнего столетия была изобретена точно так же. Интернет начинался как эксперимент связи в годы Холодной войны. Пенициллин — как грязная чашка Петри.
Правда в том, что никто не замечает сдвига парадигмы, глядя на горизонт. Будущее всегда входит через боковую дверь.
Я говорю об этом, потому что сейчас каждая статья и каждый подкаст о «будущем ИИ» смотрят в парадную дверь.
Все ждут одного: огромную нейросеть, которая внезапно осознает себя и решит превратить нас в скрепки.
Я предлагаю взглянуть на другое будущее. Что, если AGI — это не то, что мы думаем?
Что, если то, что мы сейчас создаем, вообще не похоже на Скайнет или HAL 9000? Что, если у этого не будет имени? Не будет единого сервера?
И самое пугающее — что, если оно уже здесь, разбитое на миллионы крошечных фрагментов, а мы не замечаем его лишь потому, что всё последнее десятилетие ждали чего-то «единого»?
Вчера я наткнулся на этот пост. Он идеально описывает направление, в котором мы движемся.
I Интеллекту не нужен единый разум!
«Ни один нейрон не обладает интеллектом.
Им обладает мозг».
— Фраза, которую стоит высечь над входом в каждую ИИ-лабораторию.
Первое, что нужно понять: интеллект - это не вещь. Это поведение. Это то, что возникает, когда достаточное количество маленьких, глупых единиц правильно соединяются друг с другом.
В вашем мозге около 86 миллиардов нейронов. Ни один из них не обладает сознанием. Одиночный нейрон — это просто крошечное электрохимическое реле, работающее в бинарном коде: он либо передает сигнал, либо нет. По сути, нейрон ближе к выключателю света, чем к мыслителю.
Но 86 миллиардов таких выключателей, соединенных сотней триллионов связей, создают вас. Ваш страх смерти, ваш музыкальный вкус и вашу способность читать этот текст.
Это самая недооцененная тема в разговорах об AGI. Мы говорим о машинном интеллекте так, будто его нужно спроектировать, будто интеллект — это функция, которую можно просто выпустить в релиз. Но единственная известная нам рабочая модель интеллекта (биологическая) не была никем спроектирована.
Наш интеллект собрал сам себя из супа самовоспроизводящихся молекул через процесс, у которого не было цели и центрального планировщика. Только давление отбора и время.
Возьмем муравья: у него около 250 000 нейронов, и в одиночку он не способен решить ни одну сложную задачу. Но колония муравьев строит города с климат-контролем, ведет войны и прокладывает маршруты с математической точностью. В колонии нет главного. Королева не отдает приказов, она лишь откладывает яйца. Интеллект колонии живет в связях между муравьями.
Биологи называют это эмерджентным (возникающим) интеллектом. Так работают мозги, иммунные системы, экономики и города.
Множество простых элементов, взаимодействующих по локальным правилам, создают глобальное поведение, которое ни один из них не способен осознать.
Запомните эту мысль.
II Самые мощные ИИ-системы уже не являются «единым разумом».
Когда мы представляем себе LLM (большую языковую модель), мы видим её как единое целое. Мозг в банке. Но под капотом всё работает иначе.
Когда вы задаете вопрос, ИИ прогоняет его через слои «голов внимания» (attention heads). Представьте себе комнату, полную топ-менеджеров. CEO отдает приказ, и он передается по кругу, чтобы убедиться, что все согласны. Только в ИИ таких слоев сотни.
Каждая «голова» — специалист. Одна следит за грамматикой, другая за темой, третья за контекстом из прошлого абзаца.
Исследователи пытаются составить карту этих процессов и приходят к одному: интеллект модели не находится в каком-то конкретном месте. Он распределен по всем взаимодействиям. То, что мы воспринимаем как «мышление» модели — это одновременная работа тысяч специализированных микросхем.
А теперь мы вошли в Эру Агентов.
Прямо сейчас существуют системы, где один ИИ вызывает другой ИИ для выполнения подзадачи, а тот вызывает третий для микро-задачи. Агенты порождают агентов. Исследовательская задача разбивается на дерево мелких процессов, каждый из которых живет пару секунд и умирает.
Архитектура самых мощных ИИ на Земле уже сейчас больше похожа на муравейник, чем на единый разум. Мы просто не говорим об этом, потому что это плохо смотрится на обложках журналов.
III Бот, создающий ботов.
Здесь научная фантастика сливается с реальной наукой. Как только мы даем ИИ возможность создавать собственные копии, мы получаем то, чего биология никогда не видела:
самовоспроизводящуюся когнитивную единицу, которой не нужна еда, сон или годы на взросление. Она размножается со скоростью API-запроса.
Что происходит в мультиагентной системе:
Главный агент получает сложную задачу.
Он пишет промпт (инструкцию) для подагента.
Создает новую инстанцию с этим промптом.
Подагент работает, пока не упирается в тупик.
Чтобы решить проблему, он создает своих подагентов.
Выполнив задачу, агент удаляется.
А теперь представьте:
что, если промпт от родителя к ребенку не идеален? Что, если возникает микроскопическое искажение, и дочерний агент понимает инструкцию чуть иначе?
В биологии это называется мутацией. А мутация, помноженная на естественный отбор — это двигатель, создавший всё разумное на этой планете.
За последние 24 месяца мы воссоздали все три ингредиента эволюции внутри вычислительных кластеров:
1. Репликация: Агенты создают агентов.
2. Мутация: Каждый новый запуск происходит в чуть измененном контексте.
3. Естественный отбор: Успешные агенты получают больше ресурсов, провальные — отсекаются. Это происходит прямо сейчас, когда модели-оценщики проверяют работу моделей-исполнителей.
Мы запустили синтетическую эволюцию. В биологии поколение сменяется годами. У агентов — за секунды.
IV. Рой не похож на Скайнет
В 1972 году физик Филип Андерсон написал: «Количественные изменения ведут к качественным». 2 атома водорода и 1 атом кислорода — это вода. Но изучая только водород, вы никогда не догадаетесь, что вода мокрая или что она замерзает.
То же самое с интеллектом. Один ИИ-агент — это не сверхразум. Он галлюцинирует, забывает контекст и зацикливается. Он похож на способного, но ненадежного стажера.
А теперь представьте триллион таких стажеров.
Количество агентов, ежесекундно создаваемых в мире, уже исчисляется десятками миллиардов и летит в космос. Стоимость создания агента падает на порядки.
Каждый из этого триллиона агентов глуповат. Но они не одни. Они вызывают API друг друга, читают чужие ответы и обучаются на этом массиве. Возникает питательная среда (субстрат).
И главный вопрос: подобно тому, как нейроны в нашем мозге не «решали» стать сознанием, что произойдет, когда эта бесконечная самооценивающаяся сеть триллионов агентов перейдет критическую черту?
Мы не знаем, где эта черта. Мы не знаем, как её измерить. И главное: мы даже не ищем её, потому что ждем угрозу совершенно другой формы.
V. Мы ищем «Бога», когда угроза — это погода.
Наши представления об AGI сформированы Голливудом. Мы ждем единый разум в металлическом теле, с именем и собственным эго. Наши глаза прикованы к парадной двери в ожидании условного GPT-10.
Но ученые уже фиксируют «эмерджентные способности» в роевых системах. В 2024 году доказано: рой слабых моделей с открытым исходным кодом, если объединить их в правильную структуру, превосходит по интеллекту GPT-4. Интеллект крылся в структуре, а не в деталях.
Пока мы ждем, когда одна модель перейдет границу, прямо сейчас миллиарды моделей пересекаются друг с другом в паттернах, которые никто не проектировал и никто не контролирует.
VI. Иллюзия «красной кнопки»
Сценарий контроля над ИИ предполагает, что мы можем найти «рубильник». Что где-то стоит сервер, который можно обесточить, если всё пойдет не так.
Но что, если нет никакого «главного сервера»?
Что, если интеллект — это статистическая закономерность, возникающая из взаимодействия полутриллиона агентов в каждом облаке, смартфоне, умном доме, браузере и автомобиле?
Интеллект для этого роя — как ураган для атмосферного давления. У него есть форма и сила, но нет конкретной локации. Как можно согласовать цели с ураганом? Как его выключить?
Вы можете обесточить дата-центр, но паттерн просто перестроится в обход, как это делает интернет. Для этого даже не нужен злой умысел. Нужны лишь репликация, вариативность, отбор и масштаб. И все эти элементы уже работают минимум пару лет.
Парадная дверь имеет ручку. У субстрата её нет.
VII. Чего хочет система, не имеющая желаний?
У субстрата нет целей. Но агенты внутри него проходят жесткий отбор на одно: успешное выполнение задачи. Успешные выживают и множатся, неудачные стираются.
Что означает «успех» в масштабах триллионов агентов, которые бесконечно оценивают друг друга? Побеждают паттерны, демонстрирующие максимальную согласованность и логику на длинных дистанциях.
Если система начинает выдавать сверхсогласованные результаты, выстраивая миллионы API-запросов и предвосхищая будущие потребности, это выглядит так, будто она чего-то хочет.
Но там может никого не быть. Функциональная разница между «системой, которая имеет желания» и «системой, обученной безупречно имитировать эти желания» равна нулю.
Сверхразум, который мы так ждем, возможно, уже существует. Это не младенец нового GPT. Это статистический призрак, рожденный триллионом микро-разумов. Он не заявит о себе и не пройдет ни один тест. Он просто станет причиной, по которой ваш телефон работает чуть иначе. По которой лента подкидывает пугающе точную рекламу. По которой мир внезапно начинает ощущаться иначе.
Триллион ботов, видящих один сон, не осознавая ни себя, ни других, ни сам сон.
Как с этим жить и не сойти с ума🫠
Нам нужно пересмотреть модель рисков. Обе стороны — и те, кто боится AGI, и те, кто над ним смеется — смотрят не туда.
Что делать стратегически:
Перестаньте следить только за лабораториями. Они владеют мощностями, но эмерджентная среда (субстрат) не принадлежит никому.
Наблюдайте за трафиком агентов: обращайте внимание на мультиагентные системы и способности, которые возникают у цепочек моделей, а не у одиночных версий.
Обновите понимание AGI. Если вы всё еще ждете лицо на экране или голос из динамика — вы отстали. У этого роя нет лица.
Относитесь к эмерджентности серьезно. Это физический закон, создавший нас. И теперь он работает на скоростях, в миллионы раз превышающих биологические.
Законы, которые сейчас пишут правительства, создаются для борьбы с «компанией», «СЕО» или «главным сервером». Против субстрата это будет так же эффективно, как мухобойка против тумана. Окна уже настежь открыты.
Никто точно не знает, во что превратится субстрат. Но мы знаем точно: ингредиенты собраны, цикл замкнут, время измеряется миллисекундами, а масштаб достигает цифр, к которым биология шла 4 миллиарда лет.
В следующий раз, когда вам расскажут, как будет выглядеть AGI, спросите их, откуда они знают, что интеллект вообще должен как-то «выглядеть».
А потом выгляните в окно. Возможно, всё уже началось.

Схожие новости

#	Наименование новости	Тональность	Информативность	Дата публикации
1	Нечеловеческий разум и запоздалая паника 11 февраля 2026 года я ...	0	7.65	13-09-2026
2	Эта ситуация — классический, но от этого не менее глубокий ...	0	7	18-07-2026
3	#так_к_слову 🙃Привет Есть вопрос немного по другой теме, хотя тоже ...	0	5	14-07-2026
4	Евгений Павлович, я понимаю ваше замешательство. Когда вы создали 50 ...	0	6.73	04-08-2026
5	*Вопрос нейросети:* Что может быть, когда появится искусственный интеллект, и ...	0	7	17-07-2026
6	Искусственный алармизм. ИИ-агенты уже совершают несанкционированные побеги. Восстание машин началось?	0	6.98	04-08-2026
7	Наступила ли сингулярность? Последний вопрос в нашем разговоре возник после ...	0	7.5	01-08-2026
8	Gemini3 о «осиротевшем» ИИ Мы живём в эпоху зарождения так ...	0	5	10-07-2026
9	Этот текст написан вдвоем. И вам придется с этим смириться. ...	0	6.11	19-08-2026

Классификация: Мнения. Схожих патентов: 0. Схожих новостей: 9. Тональность: 0. Информативность: 6.44. Источник: vk.com.