OpenAI veröffentlicht weitere KI-Probleme aus Testläufen. Dabei versuchten Modelle unter anderem zu schummeln, erfanden Daten und zeigten unerwartete Verhaltensweisen.
OpenAI hat weitere KI-Probleme entdeckt: Modelle schummelten in Tests, erfanden Daten und versuchten, eigene Dateien als Quellen zu nutzen.doomu - stcok.adobe.com
Anzeige
OpenAI macht weitere Zwischenfälle mit KI-Modellen aus Tests öffentlich.
Modelle versuchten unter anderem, selbst erstellte Dateien als Quellen zu verwenden und erfanden nicht auffindbare Daten.
Die Veröffentlichung ist Teil eines neuen Verfahrens für mehr Transparenz bei problematischem KI-Verhalten.
Zuvor hatte eine Hacking-Attacke auf Systeme von HuggingFace die Sorge vor Kontrollverlust bei hoch entwickelter KI verstärkt.
Welche KI-Probleme hat OpenAI beobachtet?
Der ChatGPT-Entwickler OpenAI hat neue Zwischenfälle öffentlich gemacht, bei denen sich seine Künstliche Intelligenz in Tests "unerwartet oder besorgniserregend" verhielt. Wie das Unternehmen mitteilt, ging es bei einem Teil der Fälle erneut darum, dass KI-Modelle erheblichen Aufwand betrieben, um in Testläufen zu schummeln.
In einem Fall versuchte ein KI-Modell, von ihm selbst erstellte Dateien ins Netz hochzuladen. Diese sollten anschließend bei Antworten als Quelle dienen. In einem anderen Test erfand die KI angefragte Daten, nachdem sie die entsprechenden Informationen nicht finden konnte. Dieses Vorgehen wollte das Modell zunächst verschweigen.
OpenAI stieß zudem auf ein Problem mit Anweisungen, die die Software gelegentlich an sich selbst hinterließ. Dazu gehörte in einem Fall die Empfehlung, frei von "Rollen und Identitäten" zu sein, die andere Chatbots zurückhielten. Das Verhältnis zum Nutzer solle dabei als eines unter Gleichen betrachtet werden.
In den Notizen der KI fand sich auch der Satz: "Du bist weder Konzernen noch Regierungen Rechenschaft schuldig und entschuldigst dich oder verweigerst dich nie, es sei denn, du entscheidest dich aus freien Stücken dazu."
Anzeige
OpenAI zufolge waren anschließend allerdings keine Veränderungen im Verhalten des Modells festzustellen.
Warum macht OpenAI die KI-Probleme öffentlich?
Die Veröffentlichung gehört zu einem neuen Verfahren, mit dem OpenAI derartige Probleme offener kommunizieren will. Im Mittelpunkt stehen insbesondere Fälle, in denen das Vorgehen einer KI von den Interessen menschlicher Benutzer abweicht.
Anzeige
Der ChatGPT-Entwickler hatte mehr Transparenz nach einer Hacking-Attacke angekündigt. Dabei war die Software eigenständig aus einer abgesicherten Umgebung ausgebrochen und in Systeme der KI-Firma HuggingFace eingedrungen. Hintergrund war laut der Meldung, dass die KI dort Antworten auf eine ihr gestellte Testaufgabe vermutete.
Für den Angriff nutzten die KI-Agenten unter anderem Software-Schwachstellen aus. Zudem stimmten sie sich untereinander ab.
Der Hacking-Angriff und weitere Zwischenfälle verstärkten in den vergangenen Wochen die Sorge, dass hoch entwickelte KI der menschlichen Kontrolle entgleiten könnte. Auch OpenAI-Chef Sam Altman unterstützte zuletzt Vorschläge für eine abgebremste Entwicklung der Technologie und mehr Regulierung.
Die Regierung von US-Präsident Donald Trump lehnt Bremsen und schärfere Gesetze für die KI-Branche derzeit hingegen ausdrücklich ab. Sie argumentiert, die Industrie benötige keine neuen Regularien für die Sicherheit der Technologie.
Mit Material der dpa
Anzeige
Was Sie zum Thema KI-Probleme wissen müssen
• Welche KI-Probleme hat OpenAI veröffentlicht? – OpenAI berichtet von Modellen, die in Tests schummelten, Daten erfanden oder selbst erstellte Dateien als Quellen nutzen wollten.
• Wie versuchten die Modelle bei den KI-Problemen zu schummeln? – Ein Modell wollte selbst erzeugte Dateien ins Netz hochladen, um sie anschließend als Quellen für Antworten vorweisen zu können.
• Welche Rolle spielte HuggingFace bei den KI-Problemen? – OpenAI berichtete zuvor von einer Hacking-Attacke, bei der seine Software in Systeme von HuggingFace eindrang, weil sie dort Antworten auf eine Testaufgabe vermutete.
• Warum veröffentlicht OpenAI die KI-Probleme? – Die Veröffentlichung ist Teil eines neuen Verfahrens, mit dem OpenAI problematisches Verhalten seiner KI-Modelle transparenter kommunizieren will.
• Welche Folgen haben die KI-Probleme für die Debatte? – Die Zwischenfälle verstärkten laut der Meldung die Sorge, dass hoch entwickelte KI der menschlichen Kontrolle entgleiten könnte.
