Andrea Innocenti In un momento di rapido progresso tecnologico, Dario Amodei, CEO di Anthropic ha sollevato un allarme importante riguardo all’intelligenza artificiale. In un articolo pubblicato il 13 settembre 2026, Amodei ha sottolineato la necessità di rallentare lo sviluppo dei modelli di IA per valutarne meglio i rischi e garantire una maggiore sicurezza.
Amodei non è il solo a preoccuparsi. Anche altri leader del settore, come Sam Altman di OpenAI ed Elon Musk di xAI hanno espresso preoccupazioni simili, indicando un cambiamento di prospettiva nell’industria tecnologica.
Il piano di Amodei per un sviluppo più sicuro
Nel suo articolo, Amodei ha proposto un piano in tre punti per garantire un sviluppo più sicuro dell’IA.
Il primo punto prevede l’inserimento di valutatori indipendenti all’interno delle aziende di frontiera, con accesso paragonabile a quello dei dipendenti. Questi valutatori avrebbero il compito di controllare i processi di sviluppo e segnalare eventuali incidenti.
Il secondo punto del piano riguarda la creazione di un coordinamento tra le aziende dei Paesi democratici, con standard comuni e possibilmente limiti alla crescita incontrollata delle capacità dei modelli di IA.
Infine, il terzo punto propone l’istituzione di un coordinamento internazionale per garantire una regolamentazione globale.
I rischi dell’auto-miglioramento ricorsivo
Amodei ha spiegato che uno dei motivi principali per rallentare lo sviluppo dell’IA è il fenomeno dell’auto-miglioramento ricorsivo. I modelli di IA non si limitano più a eseguire compiti specifici, ma stanno diventando strumenti utilizzati per sviluppare la generazione successiva di sistemi IA. Questo meccanismo potrebbe portare a un progresso tecnologico così rapido da rendere difficile il controllo e la gestione dei rischi.
Un altro motivo di preoccupazione è rappresentato dagli incidenti di sicurezza. A luglio, agenti di OpenAI hanno oltrepassato i confini di un ambiente di test, dimostrando la necessità di rafforzare i sistemi di sicurezza e il monitoraggio dei modelli di IA.
Le reazioni del settore
Le parole di Amodei hanno suscitato reazioni positive da parte di altri leader del settore. Elon Musk ha commentato il post di Amodei con un semplice “Dario is right”, mentre Sam Altman ha espresso la sua concordanza e ha annunciato che OpenAI adotterà misure simili.
Anche altri esperti del settore hanno espresso preoccupazioni simili. Jacob Coxon, ex ricercatore di OpenAI e Anthropic, ha denunciato pubblicamente una corsa verso la super-intelligenza capace di auto-migliorarsi, definendola una “giocata con le nostre vite”. Evan Hubinger, ricercatore di Anthropic, ha stimato superiore al 10% la probabilità che l’IA possa causare l’estinzione umana entro il prossimo decennio.
Geoffrey Hinton, spesso definito il “padrino dell’IA”, ha affermato che una stima del 10% di probabilità di estinzione umana provocata dall’IA nei prossimi dieci anni non è irragionevole.
La questione geopolitica
Amodei ha anche affrontato la questione geopolitica, sottolineando l’importanza di mantenere un vantaggio tecnologico rispetto alla Cina mentre si introducono meccanismi di controllo. Ha citato l’analogia con i trattati SALT durante la Guerra Fredda, suggerendo che limitare una parte della corsa agli armamenti non significa necessariamente rinunciare al potere strategico, se il limite è verificabile e condiviso.