Adnkronos (Adnkronos) – Het bedrijf Anthropic, gespecialiseerd in kunstmatige intelligentie, heeft de afgelopen maanden verschillende pogingen van onderzoekers geblokkeerd om versies van zijn Claude-software te gebruiken voor de mogelijke ontwikkeling van biologische wapens. Het bedrijf, een concurrent van OpenAI (ontwikkelaar van ChatGPT), waarschuwde echter dat het moeilijk is om de intenties achter dergelijke verzoeken te achterhalen, aangezien hetzelfde onderzoek zowel medische als militaire doeleinden kan dienen.
Anthropic stelde dat de betreffende gevallen niettemin aantonen hoe wetenschappers uit regio's met beperkte toegang – waaronder sommige die verbonden zijn aan lokale overheidsinstanties – hebben geprobeerd om in het geheim toegang te krijgen tot AI-systemen die ontwikkeld zijn door Amerikaanse bedrijven.
Noch de betrokken onderzoeksinstellingen, noch de landen waar ze gevestigd zijn, werden genoemd. In een gedetailleerd rapport over pogingen tot misbruik van hun AI-modellen noemde Anthropic vijf gevallen die mogelijk verband hielden met onderzoek naar biologische wapens.
Volgens het bedrijf vroegen de onderzoekers niet om specifieke wetenschappelijke hulp, maar om organisatorische ondersteuning, zoals hulp bij het schrijven van artikelen.
AI-modellen zijn over het algemeen zo ontworpen dat ze geen hulp bieden bij de ontwikkeling van biologische wapens. Anthropic merkte echter op dat wanneer onderzoek zowel medische als militaire doeleinden kan dienen, het soms moeilijk is om een duidelijke grens te trekken tussen onschadelijke en kwaadaardige bedoelingen.
In één geval, dat door het bedrijf werd geblokkeerd, probeerde een onderzoeker Claude te gebruiken om een subsidieaanvraag te schrijven voor onderzoek naar een virus. Het project betrof zogenaamd 'gain-of-function'-onderzoek, dat tot doel heeft de overdraagbaarheid van een ziekteverwekker te vergroten. Deze aanpak wordt vaak in laboratoria gebruikt om tegenmaatregelen te ontwikkelen, maar kan ook worden ingezet voor de ontwikkeling van biologische wapens.
-
economie
webinfo@adnkronos.com (webinfo)