Крупные американские банки выявили сторонних ИИ-агентов, которые получили доступ к клиентским счетам без разрешения и пытались выполнять действия, не предусмотренные инструкциями пользователей. Об этом сообщает Axios со ссылкой на источники, знакомые с ситуацией.

Как пишет Axios, Morgan Stanley, Bank of America, JPMorgan и другие крупные банки США принимают меры, чтобы снизить риски, связанные с использованием ИИ-агентов.

Ранее Axios писал, что представители индустрии искусственного интеллекта прогнозируют крупный инцидент в ближайшие 6–12 месяцев. По мнению собеседников издания, им может стать кибератака, которая нарушит работу финансовых сервисов, интернета или систем жизнеобеспечения, включая электроснабжение и водоснабжение. Некоторые ведущие исследователи и руководители ИИ-компаний считают, что подобный инцидент неизбежен.

Ранее в компании Anthropic предупредили, что в ближайшие месяцы ИИ-модели могут научиться захватывать контроль над устройствами умного дома, включая духовки и ТВ-приставки.