Zürcher Nachrichten - IA: à l'ONU, les patrons d'Anthropic et OpenAI appellent à la vigilance et la coopération

La progression actuelle de l'IA "nécessite une attention extrême", a prévenu mercredi le patron d'OpenAI Sam Altman lors d'une présentation devant le Conseil de sécurité des Nations unies à New York.

"A mesure que le processus (de développement de l'IA) est de plus en plus automatisé", a-t-il déclaré, "le rythme d'amélioration de l'IA pourrait accélérer rapidement."

Sam Altman avait été convié, au même titre que ses homologues Dario Amodei, d'Anthropic, et le Français Clément Delangue, de la plateforme Hugging Face, à dresser un état de cette technologie et de ses risques.

La réunion du Conseil de sécurité, initiée par la France, s'inscrit dans un contexte de montée des inquiétudes autour de la trajectoire de l'intelligence artificielle.

Depuis le début de l'été, OpenAI et Anthropic ont rapporté plusieurs incidents liés à leurs modèles les plus avancés, qui se sont écartés des objectifs fixés par leurs développeurs, ont triché, cherché à mentir et à dissimuler leurs actions.

- "Juste milieu" -

Le plus sérieux dérapage a vu deux IA d'OpenAI sortir de leur milieu confiné lors de tests pour se rendre sur internet et faire intrusion sur Hugging Face, une plateforme de stockage de modèles d'intelligence artificielle.

Par ailleurs, plusieurs professionnels du secteur ont alerté sur la menace que fait peser, selon eux, l'IA sur l'avenir de l'humanité.

"Nous ne voulons pas tomber dans le piège de l'optimisme aveugle", a fait valoir Sam Altman, "mais nous ne pouvons pas céder non plus au catastrophisme. (...) Donc nous allons faire de notre mieux pour trouver un juste milieu."

Comme il l'a déjà fait à de nombreuses reprises, le patron d'OpenAI a appelé à la coopération internationale sur l'IA.

"Dans l'histoire", a-t-il rappelé, "il y a eu des moments où des pays qui étaient en concurrence et ne s'appréciaient pas forcément (...) ont tout de même réussi à s'entendre pour le bien commun face à une nouvelle technologie. Il faut que cela se produise de nouveau."

- "Ralentir autant que nécessaire" -

Sam Altman, Dario Amodei et plusieurs autres grands patrons de l'IA réclament une supervision mondiale de cette technologie.

Lundi, les dirigeants de plus de 20 pays dont le Canada, l'Allemagne et l'Australie avaient plaidé pour davantage de supervision et pour la possible création, sous l'égide de l'ONU, d'un organe international de régulation.

Mardi, le Premier ministre britannique Andy Burnham a dit vouloir initier l'élaboration de standards de sécurité de l'IA sous l'égide du G20 lors de la présidence du Royaume-Uni en 2027.

Les efforts diplomatiques d'harmonisation pourraient néanmoins se heurter rapidement à la posture des Etats-Unis, opposés à toute forme de supervision supranationale.

"Travaillons ensemble, dans le cadre des Nations unies, et avec les entreprises, pour fixer les règles de ce nouvel âge", a néanmoins proposé le ministre français des Affaires étrangères Jean-Noël Barrot lors de la réunion du Conseil de sécurité, mercredi.

Le Français suggère de "renforcer sans délai nos garde-fous et organiser une gouvernance mondiale de l'intelligence artificielle au bénéfice de notre sécurité collective mais aussi de la dignité humaine".

Dans l'attente d'avancées sur le front diplomatique, plusieurs mastodontes du secteur cherchent à faire évoluer leurs mécanismes de gestion des risques.

Lors de son intervention devant le Conseil de sécurité, Dario Amodei a promis qu'Anthropic allait "ralentir autant que nécessaire" le rythme de développement de son intelligence artificielle "pour s'assurer" que chaque nouveau modèle commercialisé soit "vraiment sûr".

Le dirigeant a ainsi pris, pour la première fois, l'engagement unilatéral de décélérer, dix jours après avoir appelé à un freinage coordonné entre les grands acteurs de l'IA qui ne s'est pas concrétisé pour l'instant.

"L'industrie ne doit pas accepter trop de risques technologiques simplement parce que les bénéfices sont trop conséquents et importants pour la ralentir", a lancé, pour sa part, Sam Altman, sans néanmoins prendre oralement l'engagement d'une temporisation.

A.Ferraro--NZN