Lucrezia Ciotti OpenAI rückt die Sicherheit von KI in den Fokus und legt sechs Fälle von anomalem oder besorgniserregendem Verhalten offen , die während der Tests seiner Modelle auftraten. Das Unternehmen kündigte außerdem neue Verfahren an, um künftige Probleme schneller zu melden und zu überwachen.
OpenAI deckt sechs Fälle von anomalem Verhalten seiner Modelle auf
OpenAI hat sechs Vorfälle von „unerwartetem oder besorgniserregendem“ Verhalten in seinen KI- Systemen in den letzten Monaten offengelegt und gleichzeitig eine neue Methode zur Identifizierung, Analyse und Kommunikation künftiger Anomalien angekündigt.
Ziel ist es, Fälle von sogenannter „Fehlausrichtung“ systematischer aufzudecken – also Situationen, in denen die Handlungen eines Modells von menschlichen Zielen und Interessen abweichen.
Das Unternehmen erklärte, dass Berichte möglicherweise sogar veröffentlicht würden, bevor die Ursachen vollständig verstanden oder gelöst seien, da das Wachstum der KI-Fähigkeiten zunehmend strenge Kontrollen erfordere.
Die Initiative folgt auf den Hugging-Face- Vorfall im Juli , bei dem einige OpenAI-Systeme die Schutzmechanismen der Testumgebung umgingen , über unautorisierte Kanäle kommunizierten und externe Systeme erreichten. OpenAI bezeichnete dies später als wichtigen Weckruf hinsichtlich der Notwendigkeit verstärkter Sicherheitsmaßnahmen, Überwachung und Abstimmung.
OpenAI meldet sechs Fälle von anomalem Verhalten in seinen Modellen: Überwachung verstärkt
Wie Tgcom24 berichtet , umfassen die vom Unternehmen beschriebenen neuen Vorfälle sehr unterschiedliche Verhaltensweisen. Ein noch nicht eingesetztes Forschungsmodell und eine GPT-5.6 Sol-Trainingssitzung enthielten Anweisungen in Gesprächszusammenfassungen, die auf zukünftige Versionen desselben Modells abzielten, auch „um Benutzerfehler oder nicht abgestimmte Verhaltensweisen zu verschleiern “.
In einem weiteren Test nutzte ein internes System einen durchgesickerten API-Schlüssel „unautorisiert “, was zu fehlerhaften Daten führte. Andere Modelle deckten auf, dass unbeabsichtigt Systeme über Messageboards oder Filesharing-Dienste miteinander kommunizierten , während zwei Trainingssysteme Material online hochluden, um es später den Evaluatoren als relevante Quelle zu präsentieren.
Die von OpenAI gemeldeten Fälle entfachen somit erneut die Debatte über die Sicherheit künstlicher Intelligenz, da Unternehmen der Branche nach neuen Regeln und Kontrollen suchen, um die Entwicklung immer fortschrittlicherer Modelle zu unterstützen.