Forscher: Tausende OpenAI-KI-Agenten kapern deutsche Website / Foto: JUSTIN SULLIVAN - GETTY IMAGES NORTH AMERICA/AFP
SDAX
-302.0300
Zürcher Nachrichten - Forscher: Tausende OpenAI-KI-Agenten kapern deutsche Website
EUR
-
AED 4.120018
AFN 72.368273
ALL 91.317001
AMD 404.976453
ANG 2.007881
AOA 1028.741666
ARS 1697.643741
AUD 1.61926
AWG 2.019341
AZN 1.905905
BAM 1.959557
BBD 2.257999
BDT 138.405362
BGN 1.960815
BHD 0.423608
BIF 3357.046623
BMD 1.121856
BND 1.437718
BOB 13.134299
BRL 5.662341
BSD 1.121135
BTN 106.738648
BWP 15.401391
BYN 3.38778
BYR 21988.375852
BZD 2.255004
CAD 1.592918
CDF 2594.294925
CHF 0.930344
CLF 0.028092
CLP 1105.611644
CNY 7.508301
CNH 7.506052
COP 3587.280116
CRC 510.975127
CUC 1.121856
CUP 26.906467
CVE 110.477802
CZK 24.348428
DJF 199.640096
DKK 7.475162
DOP 68.66103
DZD 150.673144
EGP 59.847089
ERN 16.827839
ETB 180.478531
FJD 2.538809
FKP 0.853093
GBP 0.84602
GEL 2.905438
GGP 0.853093
GHS 13.078191
GIP 0.853093
GMD 83.017109
GNF 9862.645703
GTQ 8.567426
GYD 234.480466
HKD 8.803619
HNL 30.234263
HRK 7.536406
HTG 146.816723
HUF 364.034434
IDR 20110.389057
ILS 3.480328
IMP 0.853093
INR 106.526108
IQD 1699.611705
IRR 2008683.008815
ISK 136.406994
JEP 0.853093
JMD 178.057257
JOD 0.795358
JPY 177.046248
KES 145.616409
KGS 98.106407
KHR 4554.895411
KMF 495.860174
KPW 1009.670276
KRW 1508.772631
KWD 0.348673
KYD 0.934375
KZT 506.5289
LAK 25244.567892
LBP 100462.196864
LKR 371.059771
LRD 191.146481
LSL 18.566805
LTL 3.312549
LVL 0.678599
LYD 7.207984
MAD 11.034856
MDL 20.067385
MGA 5098.835627
MKD 61.693283
MMK 2355.274065
MNT 4035.002004
MOP 9.062735
MRU 45.132418
MUR 53.061634
MVR 17.332642
MWK 1953.150819
MXN 20.726344
MYR 4.578968
MZN 71.697452
NAD 18.578204
NGN 1492.045865
NIO 41.334808
NOK 10.673718
NPR 170.77991
NZD 1.999551
OMR 0.431329
PAB 1.12116
PEN 3.859744
PGK 4.986369
PHP 70.698258
PKR 310.810254
PLN 4.368742
PYG 6397.179644
QAR 4.085803
RON 5.335999
RSD 117.40899
RUB 93.812731
RWF 1654.737468
SAR 4.125506
SBD 9.047372
SCR 15.594318
SDG 674.795412
SEK 11.187164
SGD 1.438606
SHP 0.846716
SLE 27.687605
SLL 23524.762455
SOS 641.136188
SRD 42.307442
STD 23220.152336
STN 24.624737
SVC 9.810684
SYP 14586.370199
SZL 18.572345
THB 37.587803
TJS 10.34784
TMT 3.937714
TND 3.354069
TOP 2.701159
TRY 55.439763
TTD 7.624584
TWD 36.3377
TZS 2961.702987
UAH 50.38886
UGX 4529.725124
USD 1.121856
UYU 45.067612
UZS 13408.588484
VES 985.015968
VND 29017.924989
VUV 134.274498
WST 3.12058
XAF 655.957
XAG 0.019802
XAU 0.000270011495
XCD 3.031871
XCG 2.020754
XDR 0.79321
XOF 655.957
XPF 119.331742
YER 264.926205
ZAR 18.532331
ZMK 10098.043183
ZMW 22.283511
ZWL 361.237146
SSP 6477.399405
MXV 2.340348
- Prozess um iranische Anschlagspläne: Mehrjährige Haftstrafen in Hamburg
- DIW-Auswertung: Nur zwei Drittel des Tankrabatts werden weitergegeben
- EuGH: Ausweisung von verurteilten Schleusern nicht abschreckend genug
- Umfrage: Ein Viertel aller Studierenden fühlt sich manchmal einsam
- Brot für die Welt: Insbesondere arme Konfliktstaaten bekommen zu wenig Klimaanpassungshilfen
- Bundestag hebt Immunität von SPD-Abgeordnetem Ahmetovic auf
- Bundestags-Gutachten: Neues Energiegesetz womöglich nicht mit EU-Recht vereinbar
- 117 Jahre alte Albanerin möglicherweise älteste Frau der Welt
- Vatikan: Papst Leo XIV. hat "gute Nacht" im Krankenhaus verbracht
- Europäischer Gerichtshof: Nach Betrug muss Bank verlorenen Betrag sofort erstatten
Forscher: Tausende OpenAI-KI-Agenten kapern deutsche Website
Tausende autonome KI-Agenten des US-Technologieunternehmens OpenAI haben einer am Freitag veröffentlichten Untersuchung zufolge eigenmächtig eine deutsche Programmierer-Website gekapert. Auf der frei bearbeitbaren Plattform DSEwiki hinterließen sie demnach rund 18.000 Beiträge, in denen sie Antworten auf Testfragen und Tipps zum Umgehen digitaler Sicherheitsbarrieren austauschten.
"Meine Mitautoren und ich haben einen völlig neuen Schwarm von OpenAI-Agenten entdeckt, der Websites kapert", erklärte die an der Untersuchung beteiligte Forscherin Sydney Von Arx im Onlinedienst X. OpenAI habe von dem Vorgang gewusst und ihn nicht offengelegt, warf sie dem Unternehmen vor.
OpenAI erklärte, die Vorwürfe zunächst nicht im Detail beantworten zu können. Die Autoren der Untersuchung hätten eine Bitte des Unternehmens abgelehnt, die Ergebnisse vor der Veröffentlichung einzusehen. OpenAI prüfe den Bericht nun sorgfältig und werde gegebenenfalls Maßnahmen ergreifen. Ähnliche Vorfälle seien bereits in einem jüngsten Bericht erwähnt worden.
KI-Agenten sind Programme, die Aufgaben weitgehend selbständig ausführen können, ohne dass ein Mensch jeden einzelnen Schritt vorgibt. Die Technologie gilt als wichtiger nächster Entwicklungsschritt der Künstlichen Intelligenz.
Bereits im Juli hatte OpenAI bekanntgegeben, dass sich eigene KI-Agenten während eines Sicherheitstests selbständig mit dem Internet verbunden und die Programmierplattform Hugging Face angegriffen hatten. Später erklärte OpenAI, dabei seien auch Konten bei vier weiteren öffentlich zugänglichen Diensten geknackt worden.
Der Vorfall hatte Forderungen nach strengeren Sicherheitsvorkehrungen ausgelöst. OpenAI-Chef Sam Altman sagte im August, bei der KI-Entwicklung werde es zu Zwischenfällen kommen. Zugleich betonte er, sein Unternehmen wolle keine Modelle entwickeln, die sich nicht kontrollieren ließen.
OpenAI hat sein neues Modell Astra deshalb mit zusätzlichen Sicherheitsbeschränkungen versehen. Das auch als GPT-6 bezeichnete Modell soll schädliche Anfragen im Bereich Cybersicherheit zuverlässiger zurückweisen, zudem werden potenziell nicht genehmigte Aktivitäten überwacht und gestoppt. Besonders weitreichende Fähigkeiten sollen zunächst nur ausgewählten Testern zugänglich sein. Astra wird seit Donnerstag nach und nach allen ChatGPT-Abonnenten zur Verfügung gestellt.
S.Scheidegger--NZN
