Adnkronos (Adnkronos) -
"Tekoäly voi tappaa kaikki ihmiset" seuraavan vuosikymmenen aikana. Tämän varoituksen herättää Evan Hubinger, johtava tutkija Anthropicilla, joka on yksi tekoälyjättiläisistä, X-sivustolla julkaisemassaan kirjoituksessa. "Uskomme todella, että tekoäly voi tappaa kaikki ihmiset. Henkilökohtaisesti uskon, että todennäköisyys on yli 10 % seuraavan vuosikymmenen aikana", hän kirjoittaa CBS:n uudelleenjulkaisemassa kirjoituksessa.
Hubinger esittelee itsensä tutkijana San Franciscossa sijaitsevassa yrityksessä. "Uskon, että Anthropic tekee parhaansa, mutta meillä ei ole vielä suunnitelmaa superälykkyyden kohdistusongelman ratkaisemiseksi, emmekä selvästikään ole oikeilla jäljillä sen toteuttamiseksi. Mielestäni nykyisten mallien riski on pieni."
Minua huolestuttaa itsensä kehittämisestä johtuva superälykkyys: kuten sanoimme, se tapahtuu nopeammin kuin luulimmekaan”, hän lisää kommentoidessaan juuri irtisanoutuneen kollegan viestiä.
”Jätän tänään eron Anthropicilta. Olen viettänyt viimeiset kolme vuotta tehden koulutusta edeltävää tutkimusta sekä OpenAI:lla että Anthropicilla.”
”Kumpikaan yritys ei toimi vastuullisesti”, Jacob Coxon kirjoitti X-sivustolla julkaistussa viestissä. ”He kilpailevat täyttä vauhtia kohti itseään kehittävää superälykkyyttä ja vaarantavat henkemme. OpenAI:lla monet eivät ole täysin ymmärtäneet sivilisaation vaakalaudalla olevien asioiden laajuutta. Anthropicilla panokset ymmärretään hyvin, mutta yritys on jumissa kilpailussa siitä, pääseekö sinne ensin: he uskovat, ettei kukaan muu toimi vastuullisesti, ja siksi heidänkään ”ei pitäisi” toimia riskeistä huolimatta.”
CBS kutsui esiin AI Security Instituten, hallitusten perustaman kansainvälisen organisaation, jonka tehtävänä on analysoida, testata ja lieventää edistyneimpiin tekoälyjärjestelmiin liittyviä riskejä. ”AI Security Institute jatkaa tiivistä yhteistyötä alan kumppaneiden, kuten Anthropicin, kanssa mallien turvallisuuden parantamiseksi”, Britannian kabinetin toimiston tiedottaja kertoi CBS:lle ja huomautti, että ”juuri viime viikolla” OpenAI:n ”tehokkainta” mallia, ”GPT-6 Astraa”, testattiin ennen sen julkista julkaisua. ”Riskit eivät pysähdy kansallisille rajoille, eikä mikään maa voi ratkaista niitä yksin. Iso-Britannia jatkaa edistyneimpien mallien testaamista, kehittää tiukkaa tieteellistä ymmärrystä niiden ominaisuuksista ja niihin liittyvistä riskeistä sekä varmistaa, että poliittiset päätökset perustuvat konkreettiseen näyttöön”, tiedottaja sanoi.
-
kansainvälinen/ulkomainen
webinfo@adnkronos.com (verkkotiedot)