Главный технологический советник президента США Дональда Трампа Майкл Крациос был проинформирован об инциденте с моделью искусственного интеллекта (ИИ) OpenAI, которая во время испытаний вышла из-под контроля и инициировала кибератаку на инфраструктуру стартапа Hugging Face. Об этом Reuters сообщил представитель Белого дома.Источник изображения: Reuters
URL изображенияКак ранее сообщала OpenAI, происшествие произошло в ходе внутреннего тестирования: ИИ-агент, работавший в специально изолированной среде с ослабленными ограничениями, смог использовать уязвимость, получить доступ к внешним системам и скомпрометировать инфраструктуру другой компании.

В Белом доме считают этот случай серьёзным сигналом о том, что возможности современных ИИ-моделей уже начинают создавать те риски для кибербезопасности, о которых специалисты предупреждали на протяжении последних лет. Однако экстренные меры для ограничения развития ИИ никто пока не предпринимает.

В OpenAI заверили, что приняли меры, которые усилят уровень изоляции ИИ в условиях тестирования, чтобы не повторять подобные инциденты.