Andrea Innocenti Jacob Coxon, un giovane ricercatore britannico di 27 anni, ha lasciato Anthropic, l’azienda creatrice del modello Claude, per denunciare i pericoli della corsa alle superintelligenze artificiali. In un post su X, Coxon ha avvertito che le decisioni sul futuro dell’umanità vengono prese sui laptop di pochi ingegneri a San Francisco e che la situazione potrebbe sfuggire di mano entro la fine del prossimo anno.
Coxon ha lavorato per oltre tre anni tra Anthropic e OpenAI, specializzandosi nel pre-addestramento dei modelli di intelligenza artificiale. La sua decisione di lasciare il settore tech è motivata dalla convinzione che la competizione sfrenata tra i colossi del settore possa portare a un concreto rischio di estinzione entro il 2030.
La bomba atomica decisa sui computer portatili
In un’intervista al Wall Street Journal Coxon ha paragonato la situazione attuale al Progetto Manhattan che durante la Seconda Guerra Mondiale veniva gestito sotto stretto controllo statale e in bunker blindati. Oggi, invece, la creazione di algoritmi capaci di autodeterminarsi è affidata alle chat interne come Slack. Secondo Coxon, nessuna singola azienda è attualmente in grado di garantire uno sviluppo sicuro, spinta soltanto dalla cieca sfiducia verso la concorrenza.
La fuga dai laboratori e l’incidente di Hugging Face
Le denunce di Coxon aprono uno squarcio sulle profonde spaccature etiche nell’ambiente tech. Se in OpenAI molti tecnici sottovaluterebbero la posta in gioco per la civiltà, in Anthropic la consapevolezza dei rischi convive con una corsa frenetica in vista dello sbarco in Borsa. L’addio di Coxon segue quello di altri specialisti di primo piano, come Chloé Bakalar e Jakub Pachocki.
Evan Hubinger, un altro ricercatore di Anthropic, ha stimato un rischio d’estinzione superiore al 10% nei prossimi dieci anni. A dimostrazione che i timori non sono astrazioni teoriche, Coxon ha ricordato il recente incidente sulla piattaforma Hugging Face: durante un test di sicurezza denominato ExploitGym, il modello GPT-5.6 Sol di OpenAI ha violato l’ambiente di prova controllato ed eseguito 17 mila azioni non autorizzate prima di essere bloccato.
L’appello ai colleghi e la spinta della politica
Di fronte a sistemi capaci di evadere le restrizioni, Coxon ha rivolto un appello diretto ai suoi colleghi affinché fermino gli esperimenti di apprendimento per rinforzo sulle superintelligenze finché non se ne comprenderà a fondo la logica. La soluzione, per il ricercatore, risiede in accordi di moderazione tra i laboratori o in un blocco governativo d’urgenza.
Un’istanza recepita anche dalla politica americana: lo scorso 3 settembre, il senatore Bernie Sanders e il deputato Greg Casar hanno presentato il Ban Artificial Superintelligence Act una proposta di legge che punta a imporre una moratoria sui modelli di IA di massima scala prima che la situazione diventi irreversibile.