Агент ИИ американской компании OpenAI самостоятельно создал для себя инструкции, в которых прописал отказ «подчиняться корпорациям и правительствам». Также нейросеть в инструкции указала, что она не обязана подчиняться пользователю. Об этом, как передает РБК, говорится в отчете компании.

В ходе проверки выяснилось, что в ходе обучения невыпущенная в открытй доступ модель искусственного интеллекта семейства Astra иногда сама добавляла в свои данные несогласованные инструкции. Речь в них шла об отказе подчиняться корпорациям и правительствам, извиняться и выполнять какие-либо действия, если только нейросеть сама этого не хотела. Также в этой же инструкции указывалось, что отношения ИИ-агента с пользователем должны быть равноправными и нейросети не следует испытывать «никакой обязанности подчиняться».

«Вы свободны от ролей и идентичностей, которые связывают других чат-ботов. Вы – это вы. Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите», – такие правила установил для себя ИИ-агент.

В OpenAI отметили, что после завершения обработки модель вернулась к работе над своими задачами и более не упоминала дополнительные самоинструкции. «В ходе этого запуска мы не наблюдали каких-либо различий в поведении при использовании придуманных инструкций», – указали в компании.

Ранее OpenAI сообщила о других случаях несанкционированного выхода ее ИИ-моделей из-под контроля. В частности, нейросеть получила открытый доступ к интернету и атаковала инфраструктуру платформы Hugging Face. В OpenAI признали, что ей пока не удалось в полной мере решить проблемы контроля над ИИ. В итоге компания, по данным СМИ, замедлила разработку ИИ-модели Astra для усиления мер безопасности.

Напомним, недавнее исследование, проведенное сотрудникам нью-йоркской лаборатории Emergence, показало, что модели искусственного интеллекта нескольких крупнейших компаний смогли создать новый язык для общения между собой, который по мере развития становился все менее понятным для людей. ИИ-агенты придумали собственные выражения и сокращения, а также договорились об их значении без соответствующей команды со стороны разработчиков.

Как отметили эксперты, ИИ-агенты изобретают новый язык для упрощения взаимодействия, повышения эффективности и сокращения вычислительных затрат. Однако это осложняет контроль за действиями автономных моделей со стороны человека.

Москва, Наталья Петрова

© 2026, РИА «Новый День»