Zürcher Nachrichten - Un "génocide blanc" en Afrique du Sud? Grok trompé par une "modification non autorisée", selon xAI

EUR -
AED 4.234174
AFN 81.122166
ALL 97.629526
AMD 443.04022
ANG 2.063274
AOA 1057.218615
ARS 1362.027416
AUD 1.77131
AWG 2.07812
AZN 1.961543
BAM 1.948406
BBD 2.32697
BDT 140.945156
BGN 1.955914
BHD 0.434847
BIF 3431.578203
BMD 1.15291
BND 1.476298
BOB 7.99267
BRL 6.321639
BSD 1.152427
BTN 99.341031
BWP 15.407533
BYN 3.771588
BYR 22597.037105
BZD 2.314916
CAD 1.566857
CDF 3316.922004
CHF 0.939734
CLF 0.028177
CLP 1081.279866
CNY 8.277606
CNH 8.285394
COP 4730.770422
CRC 580.397567
CUC 1.15291
CUP 30.552116
CVE 109.849109
CZK 24.809464
DJF 205.221248
DKK 7.458325
DOP 68.141424
DZD 149.793015
EGP 57.852104
ERN 17.293651
ETB 154.761925
FJD 2.587941
FKP 0.84787
GBP 0.852836
GEL 3.14168
GGP 0.84787
GHS 11.869957
GIP 0.84787
GMD 82.433676
GNF 9985.109541
GTQ 8.851412
GYD 241.025382
HKD 9.05009
HNL 30.091811
HRK 7.537841
HTG 150.827655
HUF 403.634175
IDR 18793.240956
ILS 4.048651
IMP 0.84787
INR 99.531308
IQD 1509.770878
IRR 48549.042436
ISK 143.59515
JEP 0.84787
JMD 183.423962
JOD 0.817439
JPY 167.319566
KES 148.954916
KGS 100.822068
KHR 4615.485633
KMF 490.568169
KPW 1037.624973
KRW 1579.988257
KWD 0.353148
KYD 0.960455
KZT 597.931033
LAK 24863.649997
LBP 103260.756778
LKR 346.60474
LRD 230.49534
LSL 20.557789
LTL 3.404243
LVL 0.697384
LYD 6.253271
MAD 10.50145
MDL 19.684304
MGA 5175.361076
MKD 61.534736
MMK 2419.903836
MNT 4130.262797
MOP 9.318261
MRU 45.498348
MUR 52.353512
MVR 17.760548
MWK 1998.416616
MXN 21.874117
MYR 4.894682
MZN 73.728739
NAD 20.557789
NGN 1783.447923
NIO 42.40907
NOK 11.41536
NPR 158.945849
NZD 1.905518
OMR 0.443259
PAB 1.152427
PEN 4.152343
PGK 4.744994
PHP 65.591366
PKR 326.550739
PLN 4.275048
PYG 9206.065775
QAR 4.203648
RON 5.033028
RSD 117.22775
RUB 90.599741
RWF 1664.184923
SAR 4.325596
SBD 9.623791
SCR 16.34008
SDG 692.31904
SEK 10.951712
SGD 1.479385
SHP 0.906006
SLE 25.623434
SLL 24175.951652
SOS 658.60081
SRD 44.79002
STD 23862.910451
SVC 10.083735
SYP 14990.017548
SZL 20.553008
THB 37.576224
TJS 11.415183
TMT 4.035185
TND 3.406175
TOP 2.700231
TRY 45.446328
TTD 7.824309
TWD 34.130176
TZS 2990.858572
UAH 47.885504
UGX 4143.27752
USD 1.15291
UYU 47.350729
UZS 14653.394815
VES 117.789336
VND 30069.623635
VUV 138.250391
WST 3.172554
XAF 653.477252
XAG 0.031009
XAU 0.00034
XCD 3.115797
XDR 0.815408
XOF 653.482899
XPF 119.331742
YER 280.099376
ZAR 20.660552
ZMK 10377.572927
ZMW 28.056534
ZWL 371.236568
  • AEX

    -4.2500

    920.63

    -0.46%

  • BEL20

    -43.0200

    4438.57

    -0.96%

  • PX1

    -58.8400

    7683.73

    -0.76%

  • ISEQ

    -213.7400

    11339.8

    -1.85%

  • OSEBX

    3.2700

    1636.76

    +0.2%

  • PSI20

    -98.8500

    7447.3

    -1.31%

  • ENTEC

    -5.8300

    1416.23

    -0.41%

  • BIOTK

    -52.1200

    2477.99

    -2.06%

  • N150

    -17.3300

    3592.79

    -0.48%

Un "génocide blanc" en Afrique du Sud? Grok trompé par une "modification non autorisée", selon xAI
Un "génocide blanc" en Afrique du Sud? Grok trompé par une "modification non autorisée", selon xAI / Photo: Lionel BONAVENTURE - AFP/Archives

Un "génocide blanc" en Afrique du Sud? Grok trompé par une "modification non autorisée", selon xAI

Grok, le robot conversationnel d'xAI, la start-up d'intelligence artificielle d'Elon Musk, a généré plusieurs publications faisant référence à un "génocide blanc" en Afrique du Sud, une erreur imputée à une "modification non autorisée", selon l'entreprise.

Taille du texte:

Grok a provoqué une certaine stupeur cette semaine en répondant à plusieurs utilisateurs avec des contenus reprenant la propagande d'extrême droite à propos d'une prétendue oppression des Sud-Africains blancs.

Ainsi, selon des captures d'écran, à la question tout à fait innocente d'un utilisateur: "Combien de fois HBO (un service de streaming) a-t-il changé de nom ?", Grok a fourni une courte réponse sur le sujet... avant de partir dans un délire à propos d'un "génocide blanc" et de citer une chanson anti-apartheid "Kill the Boer" ("Tuez les Boers").

En réponse à un autre utilisateur lui demandant pourquoi il semblait obsédé par ce sujet, le robot conversationnel a répondu candidement que ses "créateurs chez xAI lui avaient ordonné de s'emparer du sujet du +génocide blanc+".

Elon Musk, lui-même né en Afrique du Sud, a accusé par le passé les dirigeants du pays "d'encourager ouvertement le génocide de personnes blanches en Afrique du Sud".

- "Sujet sensible" -

Dans un communiqué, xAI a indiqué qu'une "modification non autorisée" de Grok l'avait conduit à fournir des réponses qui "violaient les politiques internes et les valeurs fondamentales de xAI".

A la suite de cet épisode, l'entreprise a mené une "enquête approfondie" et a notamment mis en place une "équipe de surveillance 24 heures sur 24, sept jours sur sept" pour faire face à de futurs incidents.

Après les réactions brutales provoquées par ses messages, Grok a commencé à effacer ses réponses inadéquates. Et quand un utilisateur l'a interrogé sur ces suppressions, le robot a répondu: "Il n'est pas clair pourquoi des réponses sont effacées sans fournir de détails particuliers, mais les politiques de modération de X jouent vraisemblablement un rôle".

"Le sujet +du génocide des blancs en Afrique du Sud+ est sensible, et souvent pollué par de la désinformation ou des discours de haine, ce qui viole les règles de cette plateforme", a-t-il ajouté.

Ce faux-pas digital illustre la difficulté à modérer les réponses des robots conversationnels, une technologie qui évolue rapidement dans un environnement miné par la désinformation. Les experts appellent d'ailleurs à davantage de régulation.

"Les réponses étranges et sans rapport avec les questions de Grok nous rappellent que les robots conversationnels sont encore une technologie naissante et ne constituent pas toujours une source d'information fiable", note le site spécialisé Tech Crunch.

"Ces derniers mois, les fournisseurs de modèles d'IA ont eu du mal à modérer les réponses de leurs robots, ce qui a donné lieu à des comportements étranges", ajoute le site.

- Femmes déshabillées -

En début d'année, Sam Altman, directeur général d'OpenAI, avait annoncé l'annulation d'une mise à jour de ChatGPT qui rendait le célèbre robot conversationnel trop flagorneur.

Grok, qu'Elon Musk promettait "audacieux" lors de son lancement en 2023, a quant à lui créé récemment plusieurs polémiques.

En mars, xAI a acquis le réseau social X pour 33 milliards de dollars afin de permettre à l'entreprise d'intégrer les données de la plateforme dans le développement de Grok.

Mais le média d'investigation Bellingcat a récemment découvert que des utilisateurs de X se servaient de Grok pour créer des images sexuelles, en utilisant le robot pour déshabiller des femmes sur les photos qu'ils publiaient sur la plateforme.

Et le robot conversationnel s'est encore illustré en diffusant de fausses informations en août dernier dans plusieurs Etats américains avant des élections, ou en suggérant récemment qu'Elon Musk était probablement le "plus grand diffuseur de désinformation sur X". Grok a aussi jugé que de fausses informations créées par la propagande russe étaient vraies.

Autant de problèmes qui interviennent alors que de plus en plus d'utilisateurs du réseau X se tournent vers Grok pour vérifier des informations.

"La confiance croissante en Grok comme vérificateur de faits intervient alors que X et d'autres grandes entreprises technologiques ont réduit leurs investissements dans les modérateurs humains", met en garde McKenzie Sadeghi, chercheuse chez NewsGuard.

"Nos recherches ont montré à plusieurs reprises que les robots conversationnels d'IA ne sont pas des sources fiables d'informations, en particulier lorsqu'il s'agit d'informations de dernière minute", souligne-t-elle encore auprès de l'AFP.

A.Wyss--NZN