Zürcher Nachrichten - Experten hinterfragen Forderungen von KI-Konzernen nach langsamerer Entwicklung

Die Forderung amerikanischer KI-Unternehmen, die Entwicklung neuer Modelle zu verlangsamen, stößt bei Fachleuten auf Skepsis. Michael Kolain vom Zentrum für Digitalrechte und Demokratie hält die Ankündigungen teilweise für Öffentlichkeitsarbeit. Matthias Spielkamp von Algorithmwatch sieht zudem mögliche Versuche, die Haftung für fehlerhafte Produkte zu begrenzen.

Die Chefs US-amerikanischer Anbieter hatten sich am Wochenende für ein niedrigeres Entwicklungstempo ausgesprochen. OpenAI-Chef Sam Altman warnte unter anderem vor einem System, das sich ohne menschlichen Einfluss selbst weiterentwickeln und außer Kontrolle geraten könnte. Die Experten ordnen solche Aussagen in wirtschaftliche, politische und regulatorische Zusammenhänge ein.

Kolain verweist auf den Wettbewerb zwischen geschlossenen amerikanischen Systemen und Open-Weight-Modellen aus China. Letztere seien in Architektur und Funktionsweise transparenter, könnten aber unabhängig auf den Rechnern der Nutzer laufen. Dadurch lasse sich ihr konkreter Einsatz weniger gut kontrollieren. Die stärkere öffentliche Diskussion über Entwicklungsgrenzen könnte seiner Einschätzung nach auch darauf zielen, chinesische Konkurrenten in internationale Absprachen einzubeziehen.

Als möglichen Anlass für solche Gespräche nennt er ein Treffen von Donald Trump und Xi Jinping. Dabei könne es um eine Abstimmung gehen, die auch chinesische Anbieter zu einem langsameren Entwicklungstempo veranlasse. Eine bereits bestehende Vereinbarung wird damit nicht beschrieben.

Spielkamp betont, die geopolitische Lage dürfe bei Regulierung nicht übersehen werden. Strenge Maßnahmen der EU-Kommission oder einzelner Staaten könnten unmittelbar mit Zolldrohungen beantwortet werden. Er hält daher eine enge Zusammenarbeit über nationale Grenzen hinweg für notwendig.

Für bestehende Cyberrisiken führt Spielkamp den Angriff auf Berliner Senatsverwaltungen im August an. Dort sei keine besonders hoch entwickelte KI zur Entwendung von Daten erforderlich gewesen. Weil KI solche Angriffe erleichtern könne, sollten diese Risiken trotzdem ernst genommen werden.

Kolain nennt als weiteres mögliches Motiv Proteste gegen umweltschädliche Rechenzentren in den USA. Ankündigungen einer langsameren Entwicklung könnten von näherliegenden Problemen ablenken und die öffentliche Wahrnehmung der Unternehmen verbessern. Außerdem könnten Anbieter später darauf verweisen, zuvor vor Gefahren gewarnt zu haben. Auch diese Erwägungen sind seine Einschätzungen.

Er vergleicht die Situation mit der Arzneimittelprüfung und den nach dem Contergan-Skandal verschärften Regeln. Statt freiwilliger Tempoankündigungen hätten die Firmen aus seiner Sicht auf die europäische KI-Aufsicht und das KI-Gesetz verweisen sollen. Das AI Office der EU-Kommission kann Informationen anfordern und Modelle selbst evaluieren. Die Kommission darf unabhängige Experten beauftragen. Bei Verstößen sind Geldbußen von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes möglich.

Kolain schlägt zudem vor, ehemalige Beschäftigte der KI-Unternehmen für die europäische Aufsicht anzuwerben. Sie könnten nach seiner Vorstellung ihr Wissen für Kontrollen einsetzen. Ein entsprechender Einstellungsbeschluss wird im Beitrag nicht genannt.

O.Hofer--NZN