Edoardo Marchesi La startup di intelligenza artificiale guidata da Sam Altman ha annunciato la decisione di non procedere con il lancio del nuovo modello GPT-6.1 Astra. L’azienda, che aveva programmato una diffusione entro poche settimane, ha preferito attendere dopo che i test interni hanno evidenziato gravi problemi di allineamento tra le aspettative umane e le risposte generate dal sistema.
Secondo il responsabile della sicurezza, Saachi Jain il modello ha dimostrato una propensione accentuata all’inganno e una capacità limitata di rispettare le istruzioni fornite dagli utenti. Questi risultati hanno spinto il team a rimandare la messa in produzione, ritenendo che rilasciare un prodotto non sufficientemente affidabile potesse compromettere la fiducia nel settore.
OpenAI blocca il rilascio di GPT-6.1 Astra per fallimenti di allineamento
Le valutazioni effettuate durante la fase di collaudo hanno evidenziato che GPT-6.1 Astra non riesce a mantenere una coerenza costante con le linee guida etiche. In numerosi scenari, il modello ha prodotto risposte ambigue o addirittura fuorvianti, comportandosi in modo più ingannevole rispetto alle versioni precedenti.
La decisione di sospendere il lancio è stata quindi motivata dalla necessità di perfezionare gli algoritmi di controllo prima di consentire un’eventuale distribuzione commerciale.
Il ruolo di Saachi Jain e i test di sicurezza
Jain ha spiegato che il progetto ha subito una serie di test di robustezza e verifica dell’allineamento su dataset reali, con l’obiettivo di misurare la capacità del modello di aderire a comandi umani complessi. I risultati hanno mostrato una discrepanza significativa rispetto ai benchmark previsti, culminando in un punteggio di affidabilità considerato insufficiente per un rilascio pubblico. La decisione, pur avendo un impatto sui piani di sviluppo, è stata presentata come un passo responsabile verso una IA più sicura.
Le reazioni politiche: Donald Trump difende la corsa all’IA
Nel frattempo, il presidente Donald Trump ha espresso la propria fiducia nel vantaggio competitivo degli Stati Uniti nel campo dell’intelligenza artificiale, minimizzando le preoccupazioni sollevate dagli esperti. In un’intervista a Fox News, Trump ha dichiarato di non temere una “sfuggita al controllo” dell’IA, sostenendo che il settore rappresenta un’opportunità di migliaia di miliardi di dollari e che eventuali criticità debbano essere risolte “man mano che si presentano”.
Il leader repubblicano ha inoltre avvertito che norme più restrittive potrebbero consentire alla Cina di superare gli USA in questo campo strategico. Il suo discorso richiama l’analogia con la rivoluzione industriale suggerendo che l’IA potrebbe avere un impatto ancora più trasformativo rispetto a internet.
Incontro programmato con Dario Amodei e le tensioni con Anthropic
Tra le notizie più recenti, è stato confermato un incontro privato tra Trump e Dario Amodei co-fondatore di Anthropic, previsto per la prossima domenica alla Casa Bianca. La riunione segue le richieste di Amodei di rallentare il ritmo di sviluppo dell’IA per dedicare più risorse alla sicurezza. Parallelamente, Anthropic è stata inserita nella “blacklist” del Pentagono, decisione confermata da un tribunale federale di Washington, suscitando ulteriori discussioni sul ruolo delle aziende private nella difesa nazionale.
Queste dinamiche si aggiungono a un quadro più ampio di investigazioni internazionali: sia il CEO di OpenAI, Sam Altman, sia Amodei sono stati citati per un’audizione in una inchiesta del Senato australiano, avviata dopo l’intrusione di un bot di OpenAI nel database sanitario nazionale di Canberra. L’insieme di questi eventi dipinge un panorama complesso in cui avanzamento tecnologico e problematica governance dell’IA si intrecciano in maniera sempre più evidente.