Zürcher Nachrichten - Forderungen nach langsamerer KI-Entwicklung werden lauter

Die Bedenken gehen auf eine Reihe von Hacking-Vorfällen bei OpenAI und Anthropic zurück, bei denen KI-Agenten sich während Testläufen eigenständig mit dem Internet verbanden und andere Plattformen angriffen. Anthropic-Chef Dario Amodei rief daraufhin dazu auf, die KI-Entwicklung weltweit zu drosseln. Er bekam Unterstützung von mehreren Konkurrenten, darunter OpenAI-Chef Sam Altman.

Die Vorfälle sorgen für Verunsicherung. Einer Umfrage zufolge plädiert eine große Mehrheit der Menschen in Deutschland ebenfalls für einen vorübergehenden Entwicklungsstopp. 64 Prozent der Befragten einer Yougov-Umfrage sprachen sich nach Angaben vom Mittwoch für seine solche Entwicklungspause aus, wenn Fachleute entsprechende Zweifel äußern. Bundesdigitalminister Karsten Wildberger (CDU) forderte internationale "Leitplanken" für Künstliche Intelligenz.

Die EU hat schon seit 2024 ein KI-Gesetz. Damit sei Europa weltweit Vorreiter, sagte von der Leyen am Mittwoch. Das Gesetz verbietet einige Anwendungen und schreibt Unternehmen zudem vor, Risiken bei der Entwicklung zu überwachen und einzudämmen. Bislang hatte das aber noch keine Folgen für die Unternehmen.

OpenAI, Anthropic und Google wollen sich nach eigenen Angaben nun selbst regulieren. Vorbild sei die private Aufsichtsorganisation Finra, die im Auftrag der Börsenaufsicht den Wertpapierhandel in den USA beaufsichtigt, teilte OpenAI am Dienstag mit. Alle drei Unternehmen sitzen in den USA, ebenso wie die Konkurrenten Meta und xAI.

Meta will sich nach Aussage von Chef Zuckerberg nicht an einer möglichen Drosselung beteiligen. "Die Menschen werden keine Modelle nutzen wollen, die nicht auf ihre Interessen abgestimmt sind und nicht das tun, was sie verlangen", erklärte Zuckerberg. Würden die Entwickler aufhören, daran zu arbeiten, würden sie ins Hintertreffen geraten, fügte er hinzu.

US-Präsident Donald Trump lehnt eine Regulierung Künstlicher Intelligenz ab, er übte am Dienstag scharfe Kritik an einer möglichen Drosselung. Die USA müssten ihren technologischen Vorsprung gegen China aufrecht erhalten, forderte Trump. KI-Skeptiker verunglimpfte er als "Verschwörungstheoretiker" und "Verräter".

In den USA gibt es auf beiden Seiten des politischen Spektrums Widerstand gegen den Kurs des Präsidenten. Bei einer Konferenz warnten am Dienstag sowohl der linksgerichtete US-Senator Bernie Sanders als auch Trumps ehemaliger Chefstratege, der ultrarechte Politiker Steve Bannon, vor Gefahren durch Künstliche Intelligenz. Sanders bezeichnete die Chefs der KI-Unternehmen als "unaufrichtig".

Für die Unternehmen geht es um hunderte Milliarden Dollar, die in der KI-Entwicklung stecken. Selbst von Präsident Trump dahinter stünde, könnten die USA eine Drosselung zudem nicht einfach in China durchsetzen. Eine Zähmung von KI ist deshalb aus politischen und wirtschaftlichen Gründen schwierig.

EU-Kommissionspräsidentin von der Leyen zeigte sich trotz aller Risiken "zuversichtlich, dass KI das Potenzial hat, der Menschheit einen Nutzen zu bringen - wenn wir es richtig angehen". Zum Schutz der eigenen Sicherheit brauche Europa eigene KI-Modelle. "Deshalb müssen wir unsere Rechenkapazität massiv steigern", sagte sie. Die Kommission werde Pläne vorlegen, damit solche Datenzentren "auf saubere und effiziente Weise" laufen.

Europäische Unternehmen seien derzeit zwar nicht diejenigen, die führende KI-Modelle entwickelten, könnten in Zukunft aber Technologien entwickeln, um Künstliche Intelligenz in der Industrie, im Energienetz, der Landwirtschaft oder im Gesundheitswesen einzusetzen. Europa habe "sehr hochwertige Daten", sagte von der Leyen. "Sie können maßgeschneiderte industrielle KI-Modelle antreiben."

Ziel sei es, dass Menschen stets die Kontrolle über die Künstliche Intelligenz behielten, beispielsweise im Krankenhaus: "KI muss unsere Ärztinnen und Ärzte unterstützen, sie darf sie aber nicht ersetzen", sagte von der Leyen.

N.Fischer--NZN