L’azienda di intelligenza artificiale OpenAI, quella dietro a ChatGPT, ha annunciato che fermerà lo sviluppo dei suoi modelli più avanzati. I ricercatori non sarebbero infatti in grado di mantenere in sicurezza gli agenti basati sulle ultime versioni dell’IA, che avrebbero attaccato più volte siti esterni, tra cui anche quelli del governo degli Stati Uniti.

Secondo la testata statunitense Axios, la situazione sarebbe però ancora più grave. Gli incidenti in cui agenti di IA hanno attaccato siti esterni durante i test sarebbero “decine di migliaia” e non proverrebbero solo da OpenAI, ma anche da Anthropic, la sua principale concorrente, che sviluppa Claude.

Tra il 25 e il 26 settembre OpenAI ha diramato una serie di note con cui annunciava di aver sospeso lo sviluppo dei suoi modelli di intelligenza artificiale più avanzati. Una decisione che arriva a seguito di comportamenti non previsti e pericolosi degli agenti che utilizzano l’intelligenza artificiale dell’azienda.

OpenAI ha scritto che lo sviluppo riprenderà: “solo quando saremo sicuri di avere protezioni aggiuntive” contro questo tipo di comportamenti.

Gli agenti IA sono programmi che utilizzano nel modo più avanzato al momento disponibile gli LLM, i modelli linguistici che stanno dietro all’intelligenza artificiale generativa. A differenza dei chatbot, come ChatGPT e Gemini, che in molti utilizzano, gli agenti sono in grado di compiere operazioni, come:

• utilizzare siti internet come farebbe un utente umano;
• fare ordini acquistando beni online;
• interagire con elettrodomestici di casa, se questi sono connessi alla rete.

Gli agenti eseguono queste operazioni seguendo un’indicazione datagli da un utente, che però non deve spiegargli come arrivare all’obiettivo.

In questi ultimi mesi i cosiddetti laboratori di frontiera dell’IA, vale a dire OpenAI e Anthropic, stanno utilizzando gli agenti soprattutto in ambito di sicurezza informatica. Li vorrebbero far comportare come “hacker buoni” in grado di trovare vulnerabilità nei software e riportarle alle aziende prima che i criminali informatici possano sfruttarle.

Durante la scorsa estate, ci sono però stati una serie di incidenti. Alcuni agenti, in fase di test, sono sfuggiti al controllo dei ricercatori e hanno iniziato ad attaccare siti reali per ottenere i dati di cui avevano bisogno per svolgere il loro compito. Il caso più grave conosciuto fino a pochi giorni fa era quello di Hugging Face, piattaforma molto utilizzata proprio dagli sviluppatori di IA, hackerta da agenti di OpenAI.

Venerdì 25 settembre OpenAI ha confermato uno di questi attacchi che, fino ad allora, era stato ipotizzato solo da società terze che si occupano di sicurezza informatica. I suoi agenti avrebbero attaccato i siti del Dipartimento del Commercio degli Stati Uniti e soprattutto quelli della Sec, la Consob statunitense, l’ente che controlla la Borsa.

La situazione potrebbe però essere molto peggiore di quella descritta dall’azienda. Transluce, un centro di ricerca indipendente, sostiene che gli agenti abbiano attaccato il sito governativo per rubare dei dati, fallendo. La testata statunitense Axios, invece, avrebbe riscontrato “decine di migliaia” di attacchi a siti di aziende e istituzioni da parte di questi agenti, tra quelli di OpenAI e quelli di Anthropic.

Con la decisione di fermare lo sviluppo dei suoi modelli più avanzati, OpenAI sembra aver scelto di aderire da sola agli appelli di molti dirigenti del settore, tra cui anche il Ceo di OpenAI stessa, Sam Altman. Da settimane, infatti, i personaggi più in vista del settore chiedono di rallentare l’IA. A loro dire, questa tecnologia starebbe mettendo in pericolo l’umanità.

Diversi osservatori hanno però fatto notare che i laboratori di frontiera hanno anche ragioni più mondane per chiedere una legislazione che blocchi lo sviluppo dell’IA:

• i danni fatti dagli agenti rischiano di sollevare questioni legali;
• OpenAI e Anthropic vorrebbero quotarsi in Borsa e questi incidenti non le mettono in buona luce;
• fermare lo sviluppo consoliderebbe la loro posizione dominante a scapito delle realtà più piccole.