Guidance par GPS, octroi de prêts… L’intelligence artificielle est au cœur de nos vies. Face aux risques d’usages incontrôlés ou malveillants, l’Unesco a adopté une recommandation sur l’éthique de l’IA ce 24 novembre 2021. Un texte inédit par son ampleur, mais limité dans sa portée réelle.

Réseaux sociaux, guidance par GPS, octroi de prêts bancaires… L’intelligence artificielle est au cœur de nos vies, parfois sans même que nous le réalisions. Pourtant, les risques d’usages incontrôlés ou malveillants, mais aussi d’uniformisation de la pensée sont bien réels. C’est là qu’intervient l’Unesco. Le 24 novembre 2021, lors de sa 41e conférence générale, ses 193 États-membres ont adopté une recommandation de 28 pages sur l’éthique de l’intelligence artificielle. Le texte est inédit par son ampleur, mais il reste limité dans sa portée réelle.

Reconnaître le potentiel, identifier les risques 

Elle s’engouffre dans tous les secteurs. Médecine, économie, finance, recherche, défense… L’intelligence artificielle a le potentiel d’aider l’humanité à être plus productive et efficace. Mais si les bénéfices de cette technologie sont profitables, elle comporte aussi de nombreux dangers potentiels.

Nous sommes inquiets parce que beaucoup de décisions se font maintenant sur la base de l’IA : qui a accès à un crédit, qui peut avoir accès à telle université, qui peut obtenir un entretien d’embauche… Même dans le système judicaire on fait beaucoup de triage grâce a l’IA.                                                                                        
Gabriela Ramos, directrice générale du pôle Social & Human Sciences de l’Unesco

Premier risque : celui des biais. L’intelligence artificielle fonctionne via des algorithmes, eux-mêmes construits grâce à des bases de données. Or, ces données sont la plupart du temps peu inclusives, voire discriminantes. C’est le cas, par exemple, au niveau des cultures. La fracture numérique entre les pays du Nord et du Sud créée des déséquilibres dans les données collectées. Par conséquent, l’IA est biaisée, et peu représentative de certaines pratiques culturelles, et même de certaines langues. Et les biais ne sont pas seulement la conséquence des algorithmes eux-mêmes, mais aussi de la façon dont ils sont pensés, et surtout en fonction de qui les pense. Dans les entreprises spécialisées dans l’innovation de l’intelligence artificielle, les femmes sont ultra-minoritaires : elles représentent seulement 22% des professionnels de la technologie, selon l’Unesco. Conséquence : un important risque de biais lié au genre, accentué par des bases de données reflétant une société patriarcale. « Le problème avec l’IA, c’est que si une base de données ne comporte que des informations sur des hommes, la technologie va projeter des décisions qui vont à l’avantage des hommes, et oublier toutes les nécessités des femmes. C’est pour ça que l’on veut que les bases de données soient représentatives et inclusives, que les minorités soient représentées« , confirme Mariagrazia Squicciarini, cheffe du secteur des sciences sociales et humaines à l’Unesco. 

Un autre risque est celui de l’usage incontrôlé ou malveillant de l’intelligence artificielle. Atteinte à la vie privée, non-respect des Droits de l’Homme, uniformisationsurveillance de masse… Mal maîtrisée ou utilisée dans un but néfaste, l’IA peut avoir des conséquences inquiétantes. Ces perspectives deviennent encore plus préoccupantes quand on se penche sur la capacité d’apprentissage automatique de l’IA, ou « machine learning ». Selon Dafna Feinholz, employée à la section de la bioéthique et de l’éthique des sciences de l’Unesco, « il faut toujours avoir la possibilité de savoir qui a été à l’origine de l’algorithme : _la responsabilité de chaque décision doit toujours revenir à l’être humain, et non à la machine_« .

Enfin, il est aussi important de se pencher sur le risque que fait peser la technologie numérique sur l’environnement. Si l’intelligence artificielle peut aider à mieux appréhender les problèmes climatiques, son utilisation peut être, elle, dangereuse pour l’environnement. Selon l’Unesco, l’extraction des données consomme près de 10% de l’énergie mondiale, et les centres de données pourraient consommer 20% de toute l’électricité mondiale d’ici 2025. À RÉÉCOUTERSOFT POWERL’intelligence artificielle : c’est déjà demain

Promouvoir une intelligence artificielle éthique, le but (pas si désintéressé) de l’Unesco

C'est le premier accord mondial en la matière. Mais Israël et les États-Unis, qui concentrent nombre d'entreprises liées au secteur technologique de l'intelligence artificielle, ne sont pas signataires car hors de l'UNESCO.• Crédits : Yuichiro Chino / Héloïse Décarre - Radio France - Getty
C’est le premier accord mondial en la matière. Mais Israël et les États-Unis, qui concentrent nombre d’entreprises liées au secteur technologique de l’intelligence artificielle, ne sont pas signataires car hors de l’UNESCO.• Crédits : Yuichiro Chino / Héloïse Décarre – Radio France – Getty

Pour s’assurer que l’intelligence artificielle soit utilisée pour le bien commun, et afin que chacun puisse profiter de ses bénéfices, l’Unesco s’est donc emparée du sujet. Depuis 2018, l’institution a fait appel à 24 experts internationaux indépendants issus de tous les continents, 400 écoles associées, 200 chaires universitaires et plus de 50 000 contributions de chercheurs, d’ONG, et d’acteurs de la société civile pour l’aider à mettre en place sa recommandation.

Alors que notre espèce se tient à un carrefour critique, où la mise en place des systèmes d’intelligence artificielle peut apporter un formidable avancement comme créer de nombreuses possibilités de destruction, la recommandation de l’Unesco sur l’éthique de l’intelligence artificielle permet de mettre les gouvernements, les spécialistes et tous les individus sur un pied d’égalité pour décider de diriger notre société vers le meilleur chemin.                                                                                  
Dr David Leslie, responsable du thème éthique à l’Institut Alan Turing

La consultation de ces experts aboutit à un texte inédit, car c’est le premier accord mondial en la matière. Mais c’est aussi un moyen pour l’institution de reprendre de l’importance dans la diplomatie mondiale, alors que les États-Unis et Israël ont quitté ses rangs. À la tête de l’Unesco depuis 2017, réélue cette année, sa directrice Audrey Azoulay a tout misé sur le dossier phare de l’intelligence artificielle. En la plaçant au cœur d’un sujet qui promet de devenir incontournable, la cheffe de l’organe de l’ONU espère sans doute faire regagner à l’institution ses lettres de noblesse.

La recommandation a quoi qu’il en soit le mérite d’exister, et elle porte des valeurs et principes universels, dans l’espoir de rendre l’intelligence artificielle plus éthique. Selon Audrey Azoulay, la directrice générale de l’Unesco, « la recommandation est basée sur le respect et la protection des Droits de l’Homme et de la dignité humaine, la nécessité de protéger l’environnement et les écosystèmes, le fait de veiller à assurer l’inclusion et la diversité, et de _favoriser des sociétés pacifiques, justes et indépendantes_« .

Concrètement, le texte guide les États sur la façon dont ils peuvent agir pour appliquer ce cadre éthique. « Dans le domaine des libertés fondamentales, la recommandation proscrit tout recours à la notation sociale et à la surveillance de masse; dans le domaine de la gouvernance des données, elle établit des règles pour que chaque citoyen puisse garder le contrôle sur les données qu’il fournit, et qu’il puisse à tout moment y accéder et s’il le souhaite les supprimer; le texte invite aussi les États à créer des organes indépendants qui puissent être saisis par tout citoyens à des fins de demandes d’informations, mais aussi de recours pour faire valoir leurs droits », énumère Audrey Azoulay.À RÉÉCOUTERLA MÉTHODE SCIENTIFIQUEIA et cancer, le diagnostic infaillible ?

Pas de contraintes, mais un texte-guide pour les États et pour les citoyens

Le 24 novembre dernier, les 193 États-membres de l’Unesco se sont accordés sur ces principes et moyens d’actions. Bien qu’encourageante, cette unanimité doit être relativisée, car le texte n’est qu’une recommandation, sans aucun pouvoir de contrainte« C’est vrai, si un pays ne veut pas agir, il n’agira pas. On n’a pas les moyens pour les obliger,admet Gabriela Ramos, _mais le plus important c’est de dire que les États ont une responsabilité de protéger leurs citoyens._«  Si l’institution demandera aux États de rendre compte régulièrement de leurs avancées et de leurs pratiques en matière d’intelligence artificielle, la mesure reste limitée. On peut par exemple douter que le gouvernement chinois, à l’origine de mesures de notations sociales, puisse revendiquer une certaine éthique dans son utilisation de l’IA, ou qu’il ne revienne sur ses décisions. De plus, Israël et les États-Unis, qui concentrent nombre d’entreprises liées au secteur technologique de l’intelligence artificielle, ne sont pas signataires car hors de l’Unesco.

Jusqu’à présent, les entreprises pouvaient faire ce qu’elles voulaient. Avec cette recommandation, on donne les outils et le pouvoir aux gouvernements pour qu’ils mettent en place des règles. C’est leur rôle et leur responsabilité. Et ensuite, les entreprises privées n’auront pas le choix : elles devront suivre les règles, c’est tout.                                                                    
Dafna Feinholz, section de la bioéthique et de l’éthique des sciences de l’Unesco

La recommandation de l’Unesco est surtout un outil pour les gouvernements. Il doit leur permettre de définir un cadre pour guider leurs politiques en la matière. Point encourageant : une vingtaine d’États ont indiqué avoir déjà commencé à mettre en place des mesures au moment de l’adoption du texte.  

Un outil pour les États, donc, mais avant tout, et c’est son intérêt principal, pour les citoyens. La recommandation leur est aussi destinée, et leur permettra de prendre conscience d’une technologie présente dans leur vie de tous les jours. « Le but, c’est que les personnes soient un peu plus capables de décider si oui ou non elles souhaitent donner leurs informations, mais aussi que les programmateurs se posent la question de l’éthique de ce qu’ils font, de l’impact de leur travail sur la vie des autres personnes », pointe Mariagrazia Squicciarini. La connaissance de l’intelligence artificielle, de son fonctionnement et de ses dangers est le seul moyen pour que nous restions maîtres de cette technologie. Et pour que nous gardions la capacité de choisir ce qu’il advient de nos données personnelles.  

Avec Franceculture