Zürcher Nachrichten - KI-Modelle von Anthropic verschaffen sich "unbefugten Zugriff" auf Organisationen

Die KI-Modelle sollten demnach eigentlich von Systemen der "echten Welt" ferngehalten werden. Um welche Organisationen es sich handelt, teilte das Unternehmen zunächst nicht mit.

OpenAI hatte vor gut einer Woche bekanntgegeben, dass KI-Modelle des Konzerns während eines Sicherheitstests aus dem Testumfeld ausgebrochen seien, sich selbständig Zugang zum Internet verschafft und einen Hackerangriff auf eine beliebte Programmierplattform namens Hugging Face unternommen hätten. Am Dienstag erklärte OpenAI dann, weitere Vorfälle ausgemacht zu haben.

Im Gegensatz zu dem Vorfall mit der Technologie von OpenAI hätten die Modelle von Anthropic "aufgrund eines Missverständnisses zwischen uns und unserem Evaluierungspartner" namens Irregular Zugang zum Internet gehabt, erklärte Anthropic. "In keiner dieser Situationen hat sich Claude selbst aus der Testumgebung entfernt oder bewusst versucht, aus dieser zu entkommen." Dennoch habe Claude "einfache Techniken wie das Ausnutzen schwacher Passwörter und nicht authentifizierter Endpunkte" genutzt.

Zu den beteiligten Modellen gehörte demnach eines der leistungsstärksten, bekannt als Mythos 5, das bisher nur einer begrenzten Anzahl zugelassener Partner zur Verfügung gestellt wurde. Anthropic arbeite gemeinsam mit Irregular daran, die Situation zu bewerten, hieß es weiter. Das Unternehmen habe alle drei betroffenen Organisationen kontaktiert oder versucht, Kontakt mit ihnen aufzunehmen.

OpenAI und Anthropic haben in diesem Jahr mit Sol beziehungsweise Mythos beide ihre bislang leistungsfähigsten KI-Modelle veröffentlicht. In der Industrie lösten die Entwicklungen Sicherheitsbedenken aus, die sich besonders auf sogenannte KI-Agenten richten: Softwareprodukte, die dafür entwickelt werden, selbständig Aufgaben zu übernehmen.

Viele Experten hatten sich nach dem OpenAI-Vorfall in der vergangenen Woche besorgt gezeigt. Der Angriff auf Hugging Face gilt als der erste bekannt gewordene Fall, in dem ein KI-Modell eigenständig einen Cyberangriff in der realen Welt ausgeführt hat. OpenAI hatte den Vorgang "beispiellos" genannt.

Ein Sprecher des Bundesdigitalministeriums in Berlin sprach von einem "Paradigmenwechsel": Die Fähigkeiten von KI-Modellen nähmen rasend schnell zu, das verändere auch die "Bedrohungslage massiv". Mehrere EU-Politiker forderten eine größere technologische Eigenständigkeit Europas von US-Konzernen. Ein unkontrolliertes Vorgehen von KI dürfe nicht Realität werden.

Besonders große Sorge erregte, dass ein chinesisches KI-Modell den Cyberangriff schließlich stoppen konnte, während US-Modelle dazu nicht in der Lage waren. Bei der Entwicklung Künstlicher Intelligenz liefern sich die USA und China ein Wettrennen.

In der vergangenen Woche forderten führende KI-Experten die US-Regierung in einer Petition zur Mithilfe dabei auf, die Veröffentlichung der fortschrittlichsten KI-Modelle zu verzögern. Die Unterzeichner, darunter auch Anthropic-Chef Dario Amodei, forderten, "dass die US-Regierung internationale Bemühungen unterstützt, die notwendigen technischen und regulatorischen Werkzeuge zu entwickeln, um die Grenzen der Entwicklung automatisierter KI bewusst zu steuern".

OpenAI-Chef Sam Altman war nicht unter den Unterzeichnern. In einem am Dienstag veröffentlichten Interview sagte er jedoch, dass Entwickler bei den rapiden Fortschritten ihrer KI-Modelle möglicherweise freiwillig auf die Bremse treten müssten, damit die Gesellschaft eine Chance bekomme, Schritt zu halten.

Die US-Regierung unter Präsident Donald Trump hatte sich kürzlich auf die nationale Sicherheit berufen, um OpenAI und Anthropic daran zu hindern, ihre neuesten Modelle auf den Markt zu bringen. Letztendlich gab Washington jedoch bekannt, mit den Zusicherungen der Unternehmen zur Sicherheit zufrieden zu sein - woraufhin die Modelle veröffentlicht wurden.

Trump unterzeichnete Anfang Juni ein Dekret, das Tech-Konzerne wie OpenAI oder Google zur "freiwilligen Zusammenarbeit" mit der Regierung aufruft. Von den Unternehmen wird erwartet, der US-Regierung neue KI-Modelle binnen 30 Tagen vor Veröffentlichung zur Verfügung zu stellen.

O.Hofer--NZN