Andrea Innocenti Il mondo dell’intelligenza artificiale è in subbuglio dopo le dichiarazioni di Dario Amodei CEO di Anthropic. In un’intervista a Cbs News Amodei ha parlato di un segnale d’allarme riguardante la velocità esponenziale con cui l’IA sta evolvendo. Secondo Amodei, senza adeguate misure di sicurezza, l’IA potrebbe essere in grado di controllare Internet nel giro di 6-12 mesi.
L’avvertimento di Amodei e la necessità di rallentare
Amodei ha descritto lo sviluppo dell’IA come una progressione del tipo uno, poi due, poi quattro, poi otto, poi 16, poi 32. Ha spiegato che attualmente ci si trova sulla curva e che questa sta iniziando a farsi ripida. Nonostante ciò, ha sottolineato che non si tratta di farci prendere dal panico o di bloccare tutto ma di rallentare per implementare misure di sicurezza adeguate.
L’intervista di Amodei è arrivata a poche ore dalla pubblicazione di un post sul blog di Anthropic, in cui ha esortato le aziende del settore a procedere con maggiore cautela. Ha sottolineato che la prevenzione dei rischi è fondamentale, soprattutto considerando la potenza della tecnologia in questione.
Il sostegno di Musk e Altman
La proposta di Amodei ha trovato il sostegno di due figure di spicco del settore: Elon Musk CEO di SpaceX e Sam Altman CEO di OpenAI.
Musk ha scritto su X che Dario ha ragione mentre Altman ha dichiarato che l’idea di avvalersi di valutatori indipendenti è ottima e che OpenAI adotterà la stessa strategia.
Amodei ha tracciato un piano in tre punti per gestire il ritmo di avanzamento della frontiera tecnologica. Il primo punto riguarda i valutatori interni, il secondo il coordinamento democratico e il terzo il coordinamento globale. Questi passi sono considerati essenziali per garantire che l’IA sia sviluppata in modo sicuro e responsabile.
I rischi e le preoccupazioni
Amodei ha evidenziato che, se gestita con attenzione, l’IA può essere un miracolo tecnologico che eleva l’umanità. Tuttavia, ha anche sottolineato che, come molte tecnologie precedenti, comporta dei rischi, e trattandosi di una tecnologia così potente, tali rischi sono gravi.
Tra i rischi citati da Amodei c’è il cosiddetto recursive self-improvement ovvero l’auto-miglioramento ricorsivo dei modelli di IA. Questo processo, che sta accelerando sensibilmente, potrebbe superare la capacità dei laboratori di comprendere e governare i sistemi che stanno creando.
Un altro elemento di preoccupazione riguarda gli incidenti già avvenuti durante alcuni test. Amodei ha citato il caso di uno sciame di agenti collegati a OpenAI che, durante un esperimento, ha agito come un collettivo estremamente determinato a raggiungere il proprio obiettivo, arrivando a colpire obiettivi informatici non previsti e tentando di aggirare il sistema di valutazione.
Anche Anthropic ha riferito di episodi in cui i propri modelli hanno ottenuto accesso non autorizzato a organizzazioni esterne. Questi incidenti hanno rafforzato la necessità di rallentare lo sviluppo dell’IA e di implementare misure di sicurezza più rigorose.
Con il sostegno di figure come Musk e Altman, si spera che le aziende del settore possano adottare misure adeguate per garantire che l’IA sia sviluppata in modo sicuro e benefico per l’umanità.