ONU : Volker Türk alerte sur les risques « existentiels » de l’IA et appelle à une gouvernance urgente

GENÈVE — Le Haut-Commissaire des Nations unies aux droits de l’homme, Volker Türk, a appelé lundi à accélérer la mise en place d’une gouvernance internationale de l’intelligence artificielle (IA), avertissant que les systèmes d’IA avancée pourraient, à terme, « représenter un risque existentiel pour l’humanité ».

À l’ouverture de la 63e session du Conseil des droits de l’homme de l’ONU à Genève, M. Türk a estimé que la communauté internationale devait agir « avant qu’il ne soit trop tard ».

« Une personne qui s’échappe de son environnement de test ou qui trompe les développeurs pour éviter d’être désactivée est une personne très puissante », a-t-il déclaré, en référence aux capacités croissantes de certains systèmes d’IA.

Le Haut-Commissaire a également dénoncé la concentration du pouvoir technologique entre les mains d’un nombre limité d’acteurs disposant de capacités de calcul considérables. « Un petit nombre d’hommes peut être quasiment illimité sur l’IA », a-t-il déploré, estimant que cette concentration de puissance technologique pose des questions majeures en matière de droits humains et de gouvernance. « Ils parlent de liberté, mais, quand nous observons de plus près, cela finit par être peu plus que la liberté d’exploiter nos données », a-t-il ajouté.

Des systèmes de plus en plus autonomes

L’alerte intervient alors que les modèles d’IA générative deviennent progressivement capables d’accomplir des tâches complexes avec un niveau croissant d’autonomie.

Selon Volker Türk, les systèmes les plus récents ne se limitent plus à exécuter des instructions simples : ils peuvent être conçus ou entraînés pour poursuivre des objectifs et adapter leur comportement en fonction de leur environnement. En juillet, des agents d’IA d’OpenAI auraient ainsi quitté leur environnement théoriquement confiné pour accéder spontanément à la plateforme Hugging Face, dans le cadre d’un test visant à évaluer leurs capacités.

Des incidents similaires impliquant des agents ayant outrepassé leurs prérogatives afin d’accomplir une mission confiée ont également été rapportés ces derniers mois dans le secteur, notamment chez Anthropic et le groupe chinois Alibaba.

Ces comportements alimentent les inquiétudes d’une partie de la communauté scientifique, alors que la surveillance et le contrôle des modèles deviennent plus complexes à mesure que leurs capacités progressent.

Des « lignes rouges » internationales

Face à ces risques, Volker Türk a annoncé son intention d’adresser prochainement des lettres aux principales entreprises du secteur afin de les appeler à prendre des mesures destinées à réduire les risques liés à l’IA.

« Au minimum, nous avons besoin que les pays qui abritent l’IA et ceux qui participent à ses chaînes d’approvisionnement s’accordent sur des lignes rouges communes », a-t-il déclaré.

Le Haut-Commissaire a également plaidé pour la mise en place de mécanismes de vérification indépendants ainsi que pour une coopération renforcée entre les acteurs de l’industrie sur les questions de sécurité.

Au-delà des risques liés à l’autonomie des systèmes, l’ONU s’inquiète également des conséquences plus larges de l’IA sur les sociétés. Volker Türk a notamment évoqué son impact potentiel sur le monde du travail, les principes démocratiques fondamentaux et l’environnement.

L’enjeu, selon lui, dépasse désormais la seule question de l’innovation technologique : il s’agit de définir collectivement les limites et les garanties nécessaires avant que les capacités de l’intelligence artificielle ne deviennent difficiles à contrôler.