Несколько крупных банков США выявили работающих внутри клиентских счетов несанкционированных сторонних агентов искусственного интеллекта, некоторые из которых пытаются совершать действия, «кажущиеся независимыми от инструкций пользователя». О том, что ИИ без спроса забрался в счета американцев, со ссылкой на знакомые с ситуацией источники пишет Axios.

По данным издания, банки, включая Morgan Stanley, Bank of America, JPMorgan, и другие, спешат снизить риски, связанные с ИИ-агентами.

Ранее его же авторы поделились информацией о том, что в ИИ-индустрии ожидают в ближайшие 6–12 месяцев «крупного инцидента», который, как они полагают, скорее всего, станет кибератакой, способной привести к отключению доступа к финансовым услугам, интернету или даже электричеству и водоснабжению. При этом многие ведущие исследователи и руководители компаний считают возникновение такого инцидента «неизбежным».

Недавно в ИИ-компании Anthropic также назвали предполагаемый срок готовности искусственного интеллекта к перехвату контроля над умными домами. Отмечалось, что через считанные месяцы модели ИИ смогут проникать в «умные» духовки или ТВ-приставки и пользоваться их ресурсами для работы и распространения на другие устройства без необходимости полагаться на дорогостоящие дата-центры.