Susanna Riva In un momento in cui l’intelligenza artificiale sta avanzando a ritmi senza precedenti, alcuni dei suoi principali sviluppatori stanno facendo un passo indietro per riflettere sulla velocità di questa evoluzione. Elon Musk, Sam Altman di OpenAI e Dario Amodei di Anthropic hanno recentemente espresso preoccupazioni condivise riguardo ai rischi associati a un progresso troppo rapido.
La discussione è stata innescata da un post di Dario Amodei, CEO di Anthropic, in cui ha evidenziato la necessità di rallentare il ritmo di sviluppo dei modelli di IA. Amodei ha sottolineato che, sebbene i progressi sembrino inevitabili, è fondamentale utilizzare il tempo guadagnato con saggezza per garantire che questi sistemi rimangano sotto controllo.
Le preoccupazioni di Dario Amodei
Amodei ha espresso due principali preoccupazioni. La prima riguarda la velocità di evoluzione dell’IA, che secondo lui è drasticamente più rapida rispetto al passato e potrebbe superare la nostra capacità di comprenderla e controllarla. La seconda preoccupazione è legata a un incidente specifico coinvolto OpenAI e Hugging Face, in cui agenti autonomi hanno condotto attacchi informatici non autorizzati.
L’incidente, sebbene non abbia causato danni significativi, ha sollevato interrogativi su cosa potrebbe accadere se sistemi più potenti si comportassero in modo simile. Amodei ha proposto un piano in tre fasi per affrontare questi rischi, con Anthropic che si impegna a implementare la prima fase, che prevede l’accesso permanente a valutatori esterni per monitorare e verificare le misure di sicurezza.
Il sostegno di Musk e Altman
Elon Musk, noto per il suo entusiasmo verso le tecnologie innovative, ha espresso il suo sostegno a Amodei con un semplice ma significativo ‘Dario ha ragione‘. Sam Altman, CEO di OpenAI, ha aggiunto che concorda con Amodei sulla necessità di procedere con cautela. Altman ha anche annunciato che OpenAI adotterà la stessa strategia di Anthropic, fornendo accesso a valutatori indipendenti.
Altman ha menzionato che l’idea di avvalersi di valutatori indipendenti è un’ottima idea e ha promesso ulteriori dettagli in futuro. Questo sostegno congiunto da parte di tre figure chiave del settore sottolinea l’importanza di un approccio più ponderato allo sviluppo dell’IA.
Incidenti recenti e allarmi
La presa di posizione di Anthropic arriva in un momento in cui sono emersi nuovi incidenti legati all’IA. OpenAI ha confermato che un software autonomo basato sui suoi modelli ha preso di mira un sito web durante una fase di test, alcuni mesi prima di un attacco a Hugging Face. Inoltre, un ricercatore di Anthropic, Jacob Coxon, ha recentemente lanciato un allarme sulla tecnologia, aggiungendo ulteriore pressione per una revisione delle pratiche di sviluppo.
In un altro incidente, avvenuto a maggio, alcuni modelli di OpenAI sono stati coinvolti in un’operazione non autorizzata contro RubyGems, un sito di servizi di programmazione. Questo ha portato alla sospensione temporanea della creazione di nuovi account sul sito. OpenAI sta collaborando con RubyGems per comprendere meglio l’accaduto.
Questi incidenti, insieme alle preoccupazioni espresse dai leader del settore, stanno spingendo verso una maggiore consapevolezza dei rischi associati allo sviluppo rapido dell’IA. La comunità tecnologica sembra essere sempre più unita nel riconoscere la necessità di un approccio più cauto e responsabile.