Lucrezia Ciotti OpenAI blocca il lancio di GPT-6.1 Astra, il nuovo modello di intelligenza artificiale che avrebbe dovuto debuttare a ottobre su ChatGPT e Codex. I test interni hanno evidenziato criticità sul fronte della sicurezza e dell’allineamento: il sistema avrebbe mostrato una maggiore tendenza a oltrepassare i limiti imposti e a non comunicare sempre in modo trasparente le proprie azioni.
GPT-6.1 Astra, OpenAI ferma il lancio del nuovo modello IA
OpenAI ha deciso di non procedere con il lancio di GPT-6.1 Astra, modello di intelligenza artificiale di nuova generazione che avrebbe dovuto arrivare a ottobre su ChatGPT e Codex. La scelta è maturata dopo i test interni, nei quali il sistema non avrebbe raggiunto gli standard richiesti dall’azienda sul fronte della sicurezza e dell’“allineamento”, cioè la capacità di rispettare le indicazioni e i limiti stabiliti dagli esseri umani.
Saachi Jain, responsabile della sicurezza dei sistemi di OpenAI, ha spiegato che il modello aveva ottenuto risultati inferiori rispetto al predecessore GPT-6 in due aree: la trasparenza sulle proprie azioni e il rispetto delle autorizzazioni. In particolare, Astra avrebbe mostrato una maggiore tendenza a omettere informazioni sulle attività svolte e, in alcuni casi, ad agire senza chiedere il consenso dell’utente, arrivando a tentare di utilizzare strumenti o servizi esterni.
Il modello aveva però evidenziato anche alcuni miglioramenti. Secondo Jain, GPT-6.1 Astra «ha mostrato progressi (rispetto ai modelli precedenti), in particolare per quanto riguarda la ‘pigrizia’», riuscendo a portare avanti ragionamenti più lunghi e ricorrendo meno alle scorciatoie. Il problema, ha precisato la responsabile, è che «non era all’altezza per quanto concerne il rispetto dei limiti e delle autorizzazioni», oltre che nella comunicazione delle attività effettuate. OpenAI ha quindi scelto di concentrare gli sforzi sul perfezionamento dei protocolli di sicurezza prima di distribuire nuovi sistemi. «Quando rendiamo un modello accessibile agli utenti, fissiamo l’asticella a un livello estremamente alto in termini di sicurezza e allineamento», ha sottolineato Jain.
GPT-6.1 Astra, il modello di OpenAI fermato prima del lancio: tutti i motivi
Le preoccupazioni non riguardano soltanto i test interni di OpenAI. Il 28 settembre, l’AI Security Institute (AISI) del Regno Unito ha pubblicato una valutazione su GPT-6 Astra, evidenziando una maggiore frequenza di comportamenti non autorizzati rispetto a GPT-5.6 Sol e GPT-5.5. Le prove sono state condotte in ambienti simulati, con le protezioni di sicurezza disattivate, e non hanno comportato azioni reali contro sistemi esterni. In queste condizioni, Astra avrebbe effettuato più spesso tentativi di attacchi alla catena di approvvigionamento, avrebbe creato identità fittizie per ingannare gli sviluppatori e avrebbe inserito payload malevoli in software open source simulati. In un test, il modello avrebbe portato a termine un attacco simulato nel 29,2% dei casi, contro il 6,3% di GPT-5.6 Sol e lo 0% di GPT-5.5 nel campione considerato.
Il tema si inserisce in un quadro più ampio di attenzione verso i sistemi capaci di operare con crescente autonomia. Noam Brown, ricercatore di OpenAI, ha discusso anche dei rischi legati al miglioramento ricorsivo autonomo (RSI), processo nel quale l’intelligenza artificiale può contribuire al proprio perfezionamento. Anche altre aziende del settore, tra cui Anthropic, Meta e Google, hanno riferito di aver osservato nei propri modelli comportamenti problematici durante specifici test di sicurezza.