Zürcher Nachrichten - La course aux armements dotés d'IA risque d'anéantir l'humanité, prévient un éminent chercheur

M. Russell, professeur à l'Université de Californie, Berkeley, présent au Sommet international de l'IA à New Delhi, affirme que les dirigeants des plus grandes entreprises d'IA comprennent les dangers posés par des systèmes super-intelligents qui pourraient un jour surpasser les humains.

Selon lui, la responsabilité de sauver l'espèce incombe aux gouvernements, capables d'agir collectivement.

"Permettre à des entités privées de jouer, en substance, à la roulette russe avec chaque être humain sur terre est, à mes yeux, une totale défaillance du devoir", a déclaré Stuart Russell, une voix qui pèse au sujet de la sûreté de l'IA.

Les pays et les entreprises dépensent des centaines de milliards de dollars pour construire des centres de données énergivores destinés à entraîner et faire fonctionner des outils d'IA générative.

Cette technologie en plein essor promet des avancées comme la découverte de médicaments, mais pourrait aussi entraîner des pertes d'emplois, faciliter la surveillance et les abus en ligne, entre autres menaces. À cela s'ajoute le risque que "les systèmes d'IA eux-mêmes prennent le contrôle et que la civilisation humaine soit un dommage collatéral de ce processus", a indiqué le professeur lors d'un entretien au Sommet AI Impact.

"Chacun des PDG des principales entreprises d'IA, je crois, veut désarmer", mais ne peut le faire "unilatéralement" car ils seraient limogés par les investisseurs, a-t-il dit. "Certains l'ont dit publiquement et d'autres me l'ont confié en privé", a-t-il ajouté, notant que même Sam Altman, patron d'OpenAI, créateur de ChatGPT, a déclaré publiquement que l'IA pourrait conduire à l'extinction de l'humanité.

OpenAI et la startup américaine rivale Anthropic ont connu des démissions publiques de salariés qui ont exprimé leurs préoccupations éthiques. Anthropic a aussi averti la semaine dernière que ses derniers modèles de chatbot pouvaient être poussés à "soutenir sciemment — de manière limitée — des efforts de développement d'armes chimiques et d'autres crimes odieux".

- Des "imitateurs" humains -

Les réunions internationales, comme le sommet sur l'IA de cette semaine, offrent une occasion de réguler le secteur, même si ses trois précédentes éditions n'ont abouti qu'à des accords volontaires de la part des entreprises technologiques.

"Il est vraiment utile que chacun des gouvernements comprenne cet enjeu. C'est pour cela que je suis ici", a déclaré M. Russell.

L'Inde espère que le sommet sur l'IA, qui se tient sur cinq jours et réunit des dirigeants de la tech ainsi que des dizaines de délégations nationales de haut niveau, l'aidera à prendre de l'avance dans ce domaine. Le ministre indien des Technologies de l'information, Ashwini Vaishnaw, a indiqué mardi que le pays s'attendait à plus de 200 milliards de dollars d'investissements dans l'IA au cours des deux prochaines années, dont environ 90 milliards déjà engagés.

Parallèlement, les craintes que les outils d'assistance basés sur l'IA ne provoquent des licenciements massifs dans les plus grands secteurs indiens du service client et du support technique ont fait plonger ces derniers jours les actions des sociétés d'externalisation du pays. Selon Stuart Russell, ce type d'emplois de back-office en Inde est mûr pour être remplacé par l'IA.

"Nous créons des imitateurs humains. Et donc, bien sûr, l'application naturelle pour ce type de système, c'est de remplacer des humains."

Le chercheur perçoit une effervescence de la contestation vis-à-vis de l'IA, "particulièrement chez les jeunes". "Ils résistent en réalité aux aspects déshumanisants de l'IA", a-t-il affirmé.

"Lorsque vous prenez le contrôle de toutes les fonctions cognitives — la capacité de répondre à une question, de prendre une décision, d'élaborer un plan… vous réduisez quelqu'un à moins qu'un être humain. Les jeunes ne veulent pas de cela", assure-t-il.

kaf/ami/vmt/rhl

O.Meier--NZN