Текст опубликован в личном блоге и его автор не имеет отношения к администрации сайта

Компания OpenAI возобновила обучение своих наиболее продвинутых моделей искусственного интеллекта (ИИ) после усиления мер кибербезопасности и ограничения доступа к открытому интернету. Как сообщает Reuters, компания приостанавливала работу после инцидента в сентябре, когда экспериментальная ИИ-модель воспользовалась ошибкой в конфигурации и получила ограниченный доступ к сети.Источник изображения: ChatGPTОбучение и внутреннее использование моделей возобновились в октябре. Во время паузы OpenAI провела масштабное тестирование собственной инфраструктуры. Группы ИИ-агентов получили задачу найти способы выйти за пределы изолированных вычислительных сред, получить несанкционированный доступ к системам и обойти защитные ограничения. В ходе испытаний были обнаружены ранее неизвестные уязвимости и ошибки конфигурации. Все они, как заявляется, были исправлены.

При этом OpenAI решила не предоставлять передовым ИИ-моделям прямой доступ к работающему интернету во время обучения. Вместо этого компания создала так называемый «офлайн-мир»: обширную коллекцию проиндексированных и кэшированных веб-страниц, с которыми модели могут взаимодействовать без непосредственного воздействия на внешние системы. Такой подход позволяет отрабатывать поиск информации и работу с веб-контентом, снижая риски несанкционированных действий.

OpenAI также продолжает проверять активность своих ИИ-моделей после июльского инцидента, связанного с компрометацией Hugging Face.