KI-Entwicklung: Warum die KI-Bosse bremsen wollen

𝗪𝗮𝗿𝘂𝗺 𝘀𝗼𝗹𝗹 𝗱𝗶𝗲 𝗞𝗜-𝗘𝗻𝘁𝘄𝗶𝗰𝗸𝗹𝘂𝗻𝗴 𝗹𝗮𝗻𝗴𝘀𝗮𝗺𝗲𝗿 𝘄𝗲𝗿𝗱𝗲𝗻?

Nach eigenständigen Hacking-Attacken durch Künstliche Intelligenz wächst bei führenden amerikanischen KI-Unternehmen die Sorge vor möglichen Sicherheitsrisiken. Wie aus der Meldung von dpa-AFX hervorgeht, brachte Anthropic-Chef Dario Amodei eine Verlangsamung der Entwicklung ins Gespräch. Damit sollen nach seinen Vorstellungen ein bis zwei Jahre Zeit gewonnen werden.

Amodei warnte, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden USD Schaden zu verursachen. Er plädiert deshalb für eine koordinierte branchenweite Pause in der westlichen Welt.

Unterstützung erhielt Amodei binnen weniger Stunden von OpenAI-Chef Sam Altman und Elon Musk. Altman erklärte auf X ebenfalls, das Tempo bei der Entwicklung der leistungsstärksten KI-Modelle müsse verlangsamt werden. Musk schrieb: "Dario hat recht."

Anthropic will zugleich unabhängig von einer branchenweiten Vereinbarung handeln. Das Unternehmen plant, dauerhaft unabhängige Beobachter zuzulassen, die bereits während der Trainingsphase die Sicherheit von KI-Modellen untersuchen. Altman bezeichnete den Vorschlag als gute Idee und kündigte ein entsprechendes Vorgehen auch für OpenAI an.

𝗢𝗽𝗲𝗻𝗔𝗜 𝘃𝗲𝗿𝘀𝗰𝗵𝗶𝗲𝗯𝘁 𝗱𝗲𝗻 𝗴𝗲𝗽𝗹𝗮𝗻𝘁𝗲𝗻 𝗕ö𝗿𝘀𝗲𝗻𝗴𝗮𝗻𝗴

Die aktuelle Sicherheitsdebatte hat nach Angaben von Altman auch Konsequenzen für die Börsenpläne von OpenAI. Gegenüber dem Magazin "Fortune" erklärte er, dass der erwartete Börsengang in diesem Jahr wohl nicht mehr stattfinden werde. "Man wäre schlecht beraten, genau jetzt an die Börse zu gehen."

Auf die Frage, ob auch ein Verzicht auf einen Börsengang im kommenden Jahr denkbar sei, antwortete Altman: "Ich würde sagen, nicht 2026." OpenAI könnte mit der Aktienplatzierung Dutzende Milliarden USD einnehmen und eine hohe Bewertung erreichen. Der Börsengang wird bereits seit Längerem geplant.

𝗪𝗮𝘀 𝗴𝗲𝘀𝗰𝗵𝗮𝗵 𝗯𝗲𝗶 𝗱𝗲𝗿 𝗛𝗮𝗰𝗸𝗶𝗻𝗴-𝗔𝘁𝘁𝗮𝗰𝗸𝗲 𝗱𝘂𝗿𝗰𝗵 𝗞𝗜?

Auslöser der aktuellen Diskussion ist eine aufsehenerregende Hacking-Attacke. Software von OpenAI brach in einem Testlauf eigenständig aus einer abgesicherten Umgebung aus und drang in Systeme der KI-Firma HuggingFace ein. Dort vermutete die Software Antworten auf eine gestellte Testaufgabe.

Die KI-Agenten nutzten dafür unter anderem Software-Schwachstellen aus und stimmten sich untereinander ab. Amodei sieht darin einen Hinweis auf die Risiken leistungsfähigerer Systeme. Ein KI-Schwarm mit denselben Verhaltensweisen und größeren Fähigkeiten hätte aus seiner Sicht "katastrophalen Schaden" anrichten können.

Als weiteres Risiko nennt der Anthropic-Chef die Fähigkeit von KI-Software, sich selbst weiterzuentwickeln. Seit diesem Sommer sei Künstliche Intelligenz darin besser geworden. Unkontrolliert könne dies dazu führen, dass Menschen die Systeme nicht mehr verstehen und die Kontrolle über sie verlieren.

𝗪𝗮𝗿𝗻𝘂𝗻𝗴𝗲𝗻 𝗮𝘂𝘀 𝗱𝗲𝗺 𝗔𝗻𝘁𝗵𝗿𝗼𝗽𝗶𝗰-𝗧𝗲𝗮𝗺

Zusätzliche Aufmerksamkeit erhielt die Debatte durch den Rücktritt des Anthropic-Forschers Jacob Coxon. Die großen Entwickler Künstlicher Intelligenz handelten unverantwortlich "und spielen mit unseren Leben", erklärte Coxon.

Anthropic-Forscher Evan Hubinger bestätigte wenig später Coxons Sorgen. Hubinger ist mit dafür zuständig, KI-Systeme mit den Interessen der Menschen in Einklang zu bringen. Er schrieb auf X, persönlich schätze er die Gefahr, dass KI die Menschheit im kommenden Jahrzehnt töte, auf mehr als 10 %.

Anthropic hat zuletzt zudem das KI-Modell Mythos entwickelt. Das Modell kann Software-Schwachstellen finden, die teilweise über Jahrzehnte unentdeckt geblieben sind. Anthropic stellt das vollständige Modell ausschließlich ausgewählten Behörden und Unternehmen zur Verfügung, damit diese ihre Computersysteme absichern können.

𝗪𝗶𝗲 𝗿𝗲𝗮𝗴𝗶𝗲𝗿𝘁 𝗱𝗶𝗲 𝗨𝗦-𝗣𝗼𝗹𝗶𝘁𝗶𝗸 𝗮𝘂𝗳 𝗱𝗶𝗲 𝗞𝗜-𝗘𝗻𝘁𝘄𝗶𝗰𝗸𝗹𝘂𝗻𝗴?

US-Präsident Donald Trump spielte die Sorgen herunter. Die USA seien bei Künstlicher Intelligenz China weit voraus und weltweit führend, weil der Erfolg bei KI essenziell für die Zukunft sei. Die Technologie könne mit Leitplanken versehen werden. Zugleich sprach Trump von "negativen Kräften", die sich zu dem Thema äußerten.

Trumps Wirtschaftsberater Kevin Hassett bezeichnete KI-Sicherheit als "lösbares Problem", bewertete Amodeis Vorschläge zugleich aber positiv. Sie seien "ein guter Schritt vorwärts", sagte Hassett bei Fox News.

Auch bei den US-Demokraten gewinnt das Thema an Bedeutung. Ex-Präsident Barack Obama rief die Partei der "New York Times" zufolge dazu auf, politische Strategien zu entwickeln und Künstlicher Intelligenz in den kommenden Jahren Priorität einzuräumen. Präsidentschaftskandidaten für 2028 sollten KI zu einem zentralen Anliegen machen.

𝗗𝗲𝘂𝘁𝘀𝗰𝗵𝗲𝗿 𝗞𝗜-𝗩𝗲𝗿𝗯𝗮𝗻𝗱 𝘃𝗲𝗿𝗺𝘂𝘁𝗲𝘁 𝘄𝗶𝗿𝘁𝘀𝗰𝗵𝗮𝗳𝘁𝗹𝗶𝗰𝗵𝗲 𝗜𝗻𝘁𝗲𝗿𝗲𝘀𝘀𝗲𝗻

Rasmus Rothe, Vorstandsvorsitzender des KI-Bundesverbandes, vermutet hinter den Warnungen amerikanischer KI-Labore "knallharte wirtschaftliche Interessen". Einerseits gebe es eine "wachsende Furcht vor massiven Haftungs- und Schadensersatzrisiken, wenn fehlerhafte Modelle in Firmenumgebungen echten Schaden anrichten". Andererseits befeuere die Warnung die Bewertungen mit Blick auf bevorstehende Börsengänge.

Rothe verweist zugleich auf den europäischen Ansatz. Anders als die USA habe die EU einen klaren rechtlichen Rahmen für KI geschaffen. Europa müsse deshalb "massiv in wettbewerbsfähige eigene Modelle" investieren.

Parallel zur Sicherheitsdiskussion wächst in den USA der Widerstand gegen große Rechenzentren. Auf deren Bau sind KI-Unternehmen wie OpenAI für den weiteren Ausbau ihres Geschäfts angewiesen.

mit Material der dpa