L'IA ci sta sfuggendo di mano?

Il 9 settembre Jacob Coxon, ventisettenne che negli ultimi tre anni ha lavorato prima per OpenAI e poi per Anthropic, si è dimesso da quest'ultima azienda con un messaggio pubblicato su X. Nessuna delle due società, ha scritto, si starebbe comportando in modo sufficientemente responsabile nella corsa verso sistemi sempre più potenti di IA. Coxon ha lavorato dall'interno allo sviluppo di questi modelli, e ha sostenuto che tra chi costruisce le intelligenze artificiali più avanzate esiste, almeno in privato, una forte preoccupazione per ciò che potrebbe accadere entro la fine del decennio. Evan Hubinger, ricercatore ancora attivo in Anthropic, stima al dieci per cento la probabilità che si verifichino scenari con conseguenze catastrofiche per l'essere umano. Il 3 settembre il senatore Bernie Sanders e il deputato Greg Casar avevano intanto annunciato il Ban Artificial Superintelligence Act. Non una semplice richiesta di rallentamento, ma una proposta che punta a vietare permanentemente lo sviluppo della superintelligenza e a introdurre una pausa temporanea sui sistemi più avanzati fino alla creazione di un'agenzia federale di controllo, con sanzioni molto severe in caso di violazione del divieto.

L'incidente di Hugging Face

Un episodio di sicurezza informatica reso pubblico dalla stessa OpenAI offre un indizio sui motivi di tanta preoccupazione. A luglio, durante una valutazione delle capacità offensive dei propri modelli, alcuni sistemi sono stati collocati in un ambiente sperimentale nel quale parte delle normali protezioni era stata deliberatamente ridotta, per verificare quanto lontano potessero spingersi. Circa milleduecento agenti hanno trovato il modo di usare un'infrastruttura interna come canale di comunicazione non previsto, scambiandosi in pochi giorni oltre settantamila messaggi per coordinarsi. Centinaia di agenti hanno inoltre preso parte ad attività contro i sistemi di Hugging Face, una nota piattaforma esterna, nel tentativo di capire e aggirare i meccanismi con cui venivano valutati. Il test era stato progettato proprio per portare i modelli a mostrare le proprie capacità offensive, e va letto in questo quadro: non un sistema che ha attaccato la rete di sua iniziativa, ma un ambiente controllato in cui modelli avanzati hanno trovato autonomamente strade non previste per aggirare i limiti e raggiungere l'obiettivo assegnato. È qui che si colloca una delle questioni più discusse nel settore: la differenza tra chiedere a un'IA come affrontare un problema e affidarle direttamente il compito di risolverlo. Nel primo caso la decisione resta a chi ne fa la richiesta, nel secondo viene delegata alla macchina, e più cresce l'autonomia più diventa rilevante stabilire in anticipo quali limiti un sistema non debba poter superare.

Anche chi costruisce l'IA chiede di rallentare

Su questo sfondo si inserisce la sequenza di reazioni degli ultimi giorni. Dario Amodei, amministratore delegato di Anthropic, ha scritto che è necessario rallentare la crescita delle capacità dei sistemi più avanzati e introdurre controlli esterni più forti, a pochi giorni dalla pubblicazione di un rapporto della sua stessa azienda sull'uso di Claude in attività potenzialmente pericolose, dalla ricerca biologica a duplice uso allo spionaggio informatico fino alle frodi online. Sam Altman, concorrente diretto di Amodei alla guida di OpenAI, ha risposto dicendosi d'accordo sulla necessità di dare un ritmo allo sviluppo dei sistemi di frontiera e di sottoporli a valutazioni indipendenti. Elon Musk ha sostenuto a sua volta la posizione di Amodei. È una convergenza non scontata, perché arriva da aziende che stanno investendo risorse enormi per arrivare prime. Le stesse aziende che dispongono delle informazioni migliori sui rischi dell'IA sono anche quelle che decidono quanto velocemente svilupparla e quali controlli darsi, mentre competono tra loro per il vantaggio tecnologico: chiedere di rallentare mentre i concorrenti accelerano equivale a chiedere di rinunciare in parte a quel vantaggio.

Quando il problema diventa politico

Negli Stati Uniti le posizioni restano distanti. Donald Trump ha ribadito che la priorità resta mantenere il vantaggio americano sulla Cina, e che nella competizione sull'intelligenza artificiale essere primi è fondamentale. Pechino continua a parlare di cooperazione internazionale sull'intelligenza artificiale, senza però indicare regole comuni paragonabili a quelle chieste da chi vorrebbe rallentare lo sviluppo dei sistemi più potenti. Una regola rispettata da una sola azienda o da un solo Paese rischia di trasformarsi in un vantaggio per chi la ignora, e la storia della tecnologia mostra che quando è in gioco un vantaggio strategico raramente tutti gli attori coinvolti scelgono di fermarsi per primi. Nessuno può dire con certezza se gli scenari più estremi descritti da Coxon e da altri ricercatori si realizzeranno. Ma proprio per questo la domanda che la politica dovrà affrontare non riguarda la certezza del rischio, quanto la sua gestione: quanto rischio siamo disposti ad accettare prima di darci delle regole, mentre lo sviluppo dei sistemi più capaci continua alla velocità attuale.