Zürcher Nachrichten - Un "génocide blanc" en Afrique du Sud? Grok trompé par une "modification non autorisée", selon xAI

EUR -
AED 4.214481
AFN 81.480908
ALL 97.26039
AMD 441.190958
ANG 2.053805
AOA 1051.218682
ARS 1311.096451
AUD 1.764516
AWG 2.065714
AZN 1.951026
BAM 1.951572
BBD 2.316153
BDT 140.286101
BGN 1.955055
BHD 0.432796
BIF 3375.147289
BMD 1.147619
BND 1.474007
BOB 7.943722
BRL 6.304101
BSD 1.14715
BTN 99.137264
BWP 15.480936
BYN 3.754082
BYR 22493.331133
BZD 2.304279
CAD 1.571262
CDF 3301.699357
CHF 0.939215
CLF 0.028196
CLP 1081.997756
CNY 8.250689
CNH 8.254829
COP 4671.956686
CRC 579.045625
CUC 1.147619
CUP 30.411902
CVE 110.314849
CZK 24.798381
DJF 203.954693
DKK 7.458932
DOP 68.11119
DZD 149.737863
EGP 57.968066
ERN 17.214284
ETB 154.701966
FJD 2.578413
FKP 0.849275
GBP 0.854919
GEL 3.12162
GGP 0.849275
GHS 11.82376
GIP 0.849275
GMD 82.057387
GNF 9933.789634
GTQ 8.809839
GYD 239.908201
HKD 9.007558
HNL 30.010417
HRK 7.530332
HTG 150.444096
HUF 403.148777
IDR 18733.272453
ILS 3.982181
IMP 0.849275
INR 99.39998
IQD 1503.380805
IRR 48343.447497
ISK 143.314103
JEP 0.849275
JMD 182.394882
JOD 0.813643
JPY 166.536145
KES 148.616687
KGS 100.359511
KHR 4613.42829
KMF 490.606207
KPW 1032.815278
KRW 1577.115712
KWD 0.351653
KYD 0.956029
KZT 595.968964
LAK 24759.878363
LBP 102826.656826
LKR 344.636424
LRD 229.122263
LSL 20.565214
LTL 3.38862
LVL 0.694183
LYD 6.219762
MAD 10.510476
MDL 19.645042
MGA 5078.213923
MKD 61.496007
MMK 2409.251486
MNT 4111.222345
MOP 9.273311
MRU 45.583961
MUR 52.159808
MVR 17.679031
MWK 1992.266187
MXN 21.809469
MYR 4.877953
MZN 73.390509
NAD 20.566004
NGN 1774.757955
NIO 42.174793
NOK 11.459991
NPR 158.614397
NZD 1.904979
OMR 0.441186
PAB 1.147125
PEN 4.127415
PGK 4.729625
PHP 65.524504
PKR 325.407737
PLN 4.273102
PYG 9155.445957
QAR 4.177907
RON 5.031199
RSD 117.226397
RUB 90.104238
RWF 1635.356983
SAR 4.306139
SBD 9.587627
SCR 16.265686
SDG 689.148962
SEK 11.080663
SGD 1.474463
SHP 0.901848
SLE 25.821081
SLL 24064.999471
SOS 655.869484
SRD 44.585211
STD 23753.394929
SVC 10.037256
SYP 14920.92928
SZL 20.587979
THB 37.487545
TJS 11.528326
TMT 4.016666
TND 3.368841
TOP 2.687838
TRY 45.354588
TTD 7.777389
TWD 33.915009
TZS 3001.023459
UAH 47.827792
UGX 4131.015066
USD 1.147619
UYU 46.868877
UZS 14586.236706
VES 117.696007
VND 29954.575642
VUV 137.560826
WST 3.017811
XAF 654.539085
XAG 0.031239
XAU 0.000341
XCD 3.101497
XDR 0.814037
XOF 651.269518
XPF 119.331742
YER 278.531275
ZAR 20.601653
ZMK 10329.932614
ZMW 27.502261
ZWL 369.532829
  • AEX

    -3.5000

    917.1

    -0.38%

  • BEL20

    -12.4300

    4425.99

    -0.28%

  • PX1

    -27.6600

    7656.12

    -0.36%

  • ISEQ

    56.7000

    11396.13

    +0.5%

  • OSEBX

    0.8200

    1637.65

    +0.05%

  • PSI20

    -58.8400

    7388.68

    -0.79%

  • ENTEC

    -5.8300

    1416.23

    -0.41%

  • BIOTK

    1.4900

    2479.58

    +0.06%

  • N150

    -11.5000

    3581.34

    -0.32%

Un "génocide blanc" en Afrique du Sud? Grok trompé par une "modification non autorisée", selon xAI
Un "génocide blanc" en Afrique du Sud? Grok trompé par une "modification non autorisée", selon xAI / Photo: Lionel BONAVENTURE - AFP/Archives

Un "génocide blanc" en Afrique du Sud? Grok trompé par une "modification non autorisée", selon xAI

Grok, le robot conversationnel d'xAI, la start-up d'intelligence artificielle d'Elon Musk, a généré plusieurs publications faisant référence à un "génocide blanc" en Afrique du Sud, une erreur imputée à une "modification non autorisée", selon l'entreprise.

Taille du texte:

Grok a provoqué une certaine stupeur cette semaine en répondant à plusieurs utilisateurs avec des contenus reprenant la propagande d'extrême droite à propos d'une prétendue oppression des Sud-Africains blancs.

Ainsi, selon des captures d'écran, à la question tout à fait innocente d'un utilisateur: "Combien de fois HBO (un service de streaming) a-t-il changé de nom ?", Grok a fourni une courte réponse sur le sujet... avant de partir dans un délire à propos d'un "génocide blanc" et de citer une chanson anti-apartheid "Kill the Boer" ("Tuez les Boers").

En réponse à un autre utilisateur lui demandant pourquoi il semblait obsédé par ce sujet, le robot conversationnel a répondu candidement que ses "créateurs chez xAI lui avaient ordonné de s'emparer du sujet du +génocide blanc+".

Elon Musk, lui-même né en Afrique du Sud, a accusé par le passé les dirigeants du pays "d'encourager ouvertement le génocide de personnes blanches en Afrique du Sud".

- "Sujet sensible" -

Dans un communiqué, xAI a indiqué qu'une "modification non autorisée" de Grok l'avait conduit à fournir des réponses qui "violaient les politiques internes et les valeurs fondamentales de xAI".

A la suite de cet épisode, l'entreprise a mené une "enquête approfondie" et a notamment mis en place une "équipe de surveillance 24 heures sur 24, sept jours sur sept" pour faire face à de futurs incidents.

Après les réactions brutales provoquées par ses messages, Grok a commencé à effacer ses réponses inadéquates. Et quand un utilisateur l'a interrogé sur ces suppressions, le robot a répondu: "Il n'est pas clair pourquoi des réponses sont effacées sans fournir de détails particuliers, mais les politiques de modération de X jouent vraisemblablement un rôle".

"Le sujet +du génocide des blancs en Afrique du Sud+ est sensible, et souvent pollué par de la désinformation ou des discours de haine, ce qui viole les règles de cette plateforme", a-t-il ajouté.

Ce faux-pas digital illustre la difficulté à modérer les réponses des robots conversationnels, une technologie qui évolue rapidement dans un environnement miné par la désinformation. Les experts appellent d'ailleurs à davantage de régulation.

"Les réponses étranges et sans rapport avec les questions de Grok nous rappellent que les robots conversationnels sont encore une technologie naissante et ne constituent pas toujours une source d'information fiable", note le site spécialisé Tech Crunch.

"Ces derniers mois, les fournisseurs de modèles d'IA ont eu du mal à modérer les réponses de leurs robots, ce qui a donné lieu à des comportements étranges", ajoute le site.

- Femmes déshabillées -

En début d'année, Sam Altman, directeur général d'OpenAI, avait annoncé l'annulation d'une mise à jour de ChatGPT qui rendait le célèbre robot conversationnel trop flagorneur.

Grok, qu'Elon Musk promettait "audacieux" lors de son lancement en 2023, a quant à lui créé récemment plusieurs polémiques.

En mars, xAI a acquis le réseau social X pour 33 milliards de dollars afin de permettre à l'entreprise d'intégrer les données de la plateforme dans le développement de Grok.

Mais le média d'investigation Bellingcat a récemment découvert que des utilisateurs de X se servaient de Grok pour créer des images sexuelles, en utilisant le robot pour déshabiller des femmes sur les photos qu'ils publiaient sur la plateforme.

Et le robot conversationnel s'est encore illustré en diffusant de fausses informations en août dernier dans plusieurs Etats américains avant des élections, ou en suggérant récemment qu'Elon Musk était probablement le "plus grand diffuseur de désinformation sur X". Grok a aussi jugé que de fausses informations créées par la propagande russe étaient vraies.

Autant de problèmes qui interviennent alors que de plus en plus d'utilisateurs du réseau X se tournent vers Grok pour vérifier des informations.

"La confiance croissante en Grok comme vérificateur de faits intervient alors que X et d'autres grandes entreprises technologiques ont réduit leurs investissements dans les modérateurs humains", met en garde McKenzie Sadeghi, chercheuse chez NewsGuard.

"Nos recherches ont montré à plusieurs reprises que les robots conversationnels d'IA ne sont pas des sources fiables d'informations, en particulier lorsqu'il s'agit d'informations de dernière minute", souligne-t-elle encore auprès de l'AFP.

A.Wyss--NZN