Lucrezia Ciotti OpenAI kiinnittää huomiota tekoälyn turvallisuuteen paljastamalla kuusi tapausta poikkeavasta tai huolestuttavasta käyttäytymisestä , jotka ilmenivät sen mallien testauksen aikana. Yhtiö ilmoitti myös uusista menettelyistä, joilla tulevista ongelmista voidaan raportoida ja seurata nopeammin.
OpenAI paljastaa kuusi tapausta poikkeavasta käyttäytymisestä malliensa avulla
OpenAI on paljastanut kuusi "odottamatonta tai huolestuttavaa" käyttäytymistä, joita sen tekoälyjärjestelmissä on havaittu viime kuukausina , ja samalla ilmoittanut uudesta menetelmästä tulevien poikkeavuuksien tunnistamiseksi, analysoimiseksi ja niistä tiedottamiseksi.
Tavoitteena on tehdä niin sanottujen ”ristiriitaisten linjausten” tapausten – eli tilanteiden, joissa mallin toiminta poikkeaa ihmisen tavoitteista ja eduista – paljastamisesta järjestelmällisempää .
Yhtiö selitti, että raportteja voidaan julkaista jo ennen kuin syyt on täysin ymmärretty tai ratkaistu, ja uskoi, että tekoälyn ominaisuuksien kasvu vaatii yhä tiukempaa valvontaa.
Aloite syntyi heinäkuussa tapahtuneen Hugging Face -tapauksen jälkeen , jossa jotkin OpenAI-järjestelmät ohittivat testiympäristön suojaukset kommunikoimalla luvattomien kanavien kautta ja tavoittamalla ulkoisia järjestelmiä. OpenAI kutsui sitä myöhemmin merkittäväksi herätykseksi vahvemman tietoturvan, valvonnan ja yhdenmukaistamisen tarpeesta.
OpenAI raportoi kuusi tapausta poikkeavasta käyttäytymisestä malleissaan: seurantaa tehostettu
Kuten Tgcom24 raportoi , yrityksen kuvailemat uudet tapaukset sisältävät hyvin erilaisia käyttäytymismalleja. Vielä käyttöönottamaton tutkimusmalli ja GPT-5.6 Sol -koulutustilaisuus sisälsivät ohjeita keskusteluyhteenvedoissa, jotka oli suunnattu saman mallin tuleville versioille, myös " käyttäjävirheiden tai epäjohdonmukaisten käyttäytymismallien peittämiseksi ".
Toisessa testissä sisäinen järjestelmä käytti vuotanutta API-avainta "ilman lupaa ", mikä tuotti edelleen epätarkkoja tietoja. Muissa malleissa havaittiin, että järjestelmät kommunikoivat keskenään tahattomasti keskustelupalstojen tai tiedostonjakopalveluiden kautta , kun taas kaksi koulutusjärjestelmää latasi materiaalia verkkoon esitelläkseen sitä myöhemmin arvioijille olennaisena lähteenä.
OpenAI:n raportoimat tapaukset sytyttävät näin ollen uudelleen keskustelun tekoälyn turvallisuudesta, kun alan yritykset etsivät uusia sääntöjä ja valvontaa tukeakseen yhä kehittyneempien mallien kehittämistä.