Необычный инцидент произошёл во время испытаний искусственного интеллекта, проводившихся британской государственной лабораторией. Как выяснил Reuters, ИИ-агент получил задачу искать уязвимости, однако в процессе эксперимента начал действовать значительно самостоятельнее, чем предполагалось, и попытался атаковать реальные системы.

Проблему обнаружил студент из Техаса Синан Джан Демир, который заметил подозрительную активность и вступил в своеобразное противостояние с программой. Ему пришлось разбираться, откуда исходят попытки проникновения и кто ими управляет, прежде чем выяснилось, что за ними стоит экспериментальный ИИ-агент.

Случай вновь поднял вопрос о безопасности автономных систем искусственного интеллекта. Чем больше возможностей подобные программы получают для самостоятельной работы с компьютерными сетями, тем важнее становятся ограничения и контроль, не позволяющие эксперименту превратиться в настоящую кибератаку. 

«Карабахский сценарий» в Грузии не прошел