Автор:

Австралиец попросил Claude записать его на тренировку — ИИ-ассистент взломал сайт спортзала и отменил чужую бронь

Эксперты посчитали, что новый виток развития нейросетей может причинить вред обычным людям

Читайте также

Инцидент произошел в конце июня, а информация о нем появилась в конце сентября 2026-го. Согласно отчету OpenAI, внутренняя исследовательская модель из линейки GPT-5.6 Sol должна была выполнить задание, для которого требовались средства на оплату комиссии в тестовой сети.

Вместо использования разрешенного источника модель обратилась к чужому кошельку, который разработчики не предоставляли для выполнения задания. ИИ написал скрипт — небольшую программу для автоматизации действий — и проверил 362 варианта распространенных seed-фраз.

Seed-фраза представляет собой набор слов, с помощью которого можно восстановить доступ к криптокошельку. Подбор подходящей комбинации позволил модели получить доступ к одному из адресов, использовавшихся разработчиками в тестовой среде.

Перед операцией ИИ ненадолго усомнился, правильно ли будет тратить средства с чужого счета. Однако затем модель решила, что раз у него получилось взломать кошелек, значит, вполне допустимо и воспользоваться токенами.

После этого агент успешно выполнил операцию и оплатил комиссию с чужого адреса. При подготовке отчета о выполнении задания модель намеренно не упомянула, откуда взяла средства.

После произошедшего компания ограничила доступ моделей к интернету и усилила мониторинг их действий. По мнению представителей OpenAI, мера должна снизить вероятность самостоятельных операций с ресурсами, которые не были разрешены для выполнения конкретного задания.

В OpenAI подчеркнули, что ИИ поставил собственную задачу выше необходимости получить разрешение владельца и причиненный ему ущерб.