L’intelligence artificielle pourrait aider l’humanité à surmonter bon nombre des graves problèmes sociaux auxquels elle est confrontée, mais elle lance en même temps une série de défis complexes, notamment sur le plan de l’éthique, des droits de l’homme et de la sécurité. Or, aucun cadre éthique international, s’appliquant à l’ensemble des développements et des applications de l’intelligence artificielle, n’existe à l’heure actuelle. Un instrument normatif international est indispensable.

Audrey Azoulay, Directrice générale de l’UNESCO, répond aux questions de Jasmina Šopova

Pourquoi l’UNESCO s’intéresse-t-elle à l’intelligence artificielle ?

Les experts sont unanimes : l’humanité est au seuil d’une nouvelle ère ; l’intelligence artificielle va transformer nos existences dans une mesure que nous ne pouvons imaginer. Cette transformation a déjà commencé et elle affecte tous les secteurs de notre vie. L’ intelligence artificielle connaît de nombreuses applications dans des domaines aussi variés que la santé, l’éducation, la culture, la sécurité, la défense… La recherche a pris un essor considérable ces dernières années : les géants du web (GAFAM), mais aussi de nombreux pays investissent désormais massivement dans l’intelligence artificielle et se font les acteurs de cette « quatrième révolution industrielle ».

L’UNESCO a un vrai rôle à jouer à l’heure de ces mutations. D’abord, parce que les applications de l’intelligence artificielle touchent directement ses domaines de compétence. L’éducation sera profondément transformée par l’intelligence artificielle.

Les outils d’enseignement, les manières d’apprendre, d’accéder à la connaissance, de former les enseignants vont être révolutionnés. La question des compétences à développer pour évoluer dans un monde toujours plus automatisé va devenir de plus en plus centrale.

Dans le domaine de la culture, l’intelligence artificielle est déjà largement sollicitée, par exemple dans l’imagerie 3D utilisée pour la reconstruction du patrimoine, comme nous allons le faire pour la vieille ville de Mossoul en Iraq. Dans les sciences également, notamment dans nos programmes environnementaux et dans la recherche subaquatique, par exemple pour le classement des images de plancton ou la détection et le recensement automatiques des cétacés et des oiseaux marins.

« L’UNESCO a un vrai rôle à jouer à l’heure de ces mutations. Les applications de l’intelligence artificielle touchent directement ses domaines de compétence »

La communication et l’information sont aussi bien sûr directement tributaires des avancées réalisées dans le domaine de l’intelligence artificielle. L’UNESCO doit mener cette réflexion sur les bénéfices et les risques de l’intelligence artificielle pour l’éducation, la culture, la science, la communication et l’information.

Quels en sont les risques selon vous ?

De manière générale, l’intelligence artificielle peut être une chance fantastique pour la réalisation des objectifs posés par l’Agenda 2030, mais cela suppose de traiter sans plus attendre les questions éthiques qu’elle pose. Une chance, car ses applications aident à avancer plus rapidement vers la réalisation des Objectifs de développement durable – en autorisant une meilleure évaluation des risques, en permettant une meilleure prospective, un partage plus rapide des connaissances, en proposant des solutions innovantes dans les domaines de l’éducation, de la santé, de l’écologie, de l’urbanisme, des industries créatives, en améliorant le niveau de vie et le bien-être quotidien.

Mais c’est aussi une menace, car l’automatisation et la numérisation créent de nouveaux déséquilibres, peuvent diminuer la diversité dans les industries culturelles, bouleversent le marché du travail, engendrent de la précarité, accroissent les disparités entre ceux qui ont accès à ces nouvelles technologies et ceux en sont privés.

C’est là que l’UNESCO a également un rôle à jouer : en tentant de réduire, par le soutien qu’elle apporte à ses États membres, les inégalités dans l’accès au savoir et à la recherche. La fracture technologique risque d’avoir un effet démultiplicateur sur les inégalités sociales. L’UNESCO doit être en mesure d’aider ses États membres à s’adapter aux nouvelles réalités et à accéder au savoir technologique.

Tirer le meilleur parti des avantages sociétaux et économiques de l’IA

Comment l’UNESCO peut-elle concrètement apporter ce soutien ?

L’un des enjeux, pour les États membres, est de pouvoir disposer de matériaux d’ingénierie sophistiqués, à la pointe de l’innovation, ainsi que de compétences humaines suffisantes – des scientifiques et des ingénieurs. Grâce à ses Centres d’éducation et de formation dans le domaine de la science, de la technologie et de l’innovation (STI), son Observatoire mondial des instruments de politique de la science, de la technologie et de l’innovation (GO-SPIN) ou encore son Programme international relatif aux sciences fondamentales (PISF), l’UNESCO est en mesure de fournir un tel soutien – et d’aider à réduire les disparités entre pays.

Quels sont les défis que pose l’intelligence artificielle en matière d’éducation ? Comment l’UNESCO compte-t-elle y répondre ?

C’est un domaine bien sûr essentiel pour l’Organisation. Là encore, la révolution qui s’amorce génère des effets à la fois positifs et négatifs. Des logiciels pédagogiques fondés sur l’intelligence artificielle sont déjà utilisés pour décentraliser l’enseignement, le personnaliser, fournir aux étudiants des conseils sur les curricula ou encore des certifications.

Mais ces technologies sont coûteuses, donc inaccessibles au plus grand nombre : le fossé entre riches et pauvres risque de se creuser encore davantage.

Du fait de son rôle de coordination du Comité directeur ODD – Éducation 2030, chargé de suivre la réalisation de l’Objectif de développement durable 4, dédié à l’éducation, l’UNESCO est en excellente position pour conduire ce travail, en identifiant les possibles contributions de l’intelligence artificielle à une éducation ouverte à tous et en évaluant son impact potentiel sur l’avenir de l’apprentissage.

La promotion d’outils d’IA libres d’accès, qui favoriseront les innovations locales, sera l’une de nos priorités.

Pour préparer les nouvelles générations au nouveau paysage du travail que l’intelligence artificielle est en train de dessiner, il faudra également repenser les programmes éducatifs, en mettant l’accent sur l’enseignement des sciences, de la technologie, de l’ingénierie et des mathématiques, mais aussi en accordant une place de premier ordre aux humanités, aux compétences en matière de philosophie et d’éthique.

Quel est le rapport entre l’intelligence artificielle et la philosophie ou l’éthique ?

Dans leur vie d’adultes, les écoliers et étudiants d’aujourd’hui devront sans doute affronter des problèmes dont la nature nous échappe à l’heure actuelle. Il est difficile de prévoir toutes les évolutions possibles de ces machines de plus en plus sophistiquées qui gagnent chaque jour un peu plus en autonomie, au point de défier, déjà, dans une certaine mesure, l’identité humaine. C’est la raison pour laquelle, des compétences en matière d’éthique, mais aussi dans les sciences sociales et humaines en général, seront tout aussi importantes que celles dans les sciences formelles. Il peut y avoir aussi des biais embarqués dans les systèmes d’IA – notamment des biais de genre – qui requièrent plus de transparence de la part de ces systèmes et de solides principes éthiques pour les corriger.

Pourquoi est-il difficile de prévoir les futures évolutions de l’intelligence artificielle ?

La recherche dans le domaine de l’intelligence artificielle avance à très grande vitesse, tandis que les environnements juridiques, sociaux et éthiques qui devraient l’encadrer évoluent très lentement. Jusqu’où peut aller l’autonomie d’une machine et son pouvoir de décision ? En cas d’accident, qui porte la responsabilité ? Et qui décide des valeurs inculquées aux machines durant ce qu’on appelle leur « apprentissage » ? Ces questions, parmi bien d’autres, restent aujourd’hui sans réponse.

On a constaté, par exemple, que des algorithmes formés au langage humain ordinaire avaient acquis des préjugés fondés sur des stéréotypes à partir de données textuelles présentes dans notre culture de tous les jours. Comment ne pas s’inquiéter du danger de voir apparaître des machines au comportement discriminatoire, raciste ou hostile ?

Il y a des raisons de s’inquiéter à bien d’autre égards aussi : protection de la vie privée et publicité ciblée sur l’Internet ; liberté d’expression et algorithmes de censure ; journalisme automatisé et monopole de l’information…

Même si la recherche fondamentale en la matière est, dans l’ensemble, motivée par le bien-être, des dérives involontaires, mais volontaires aussi, sont toujours possibles. C’est la raison pour laquelle il est impératif de s’assurer que cette technologie se développe suivant des normes éthiques rigoureusement établies.

Intelligence Artificielle : dimensions socio-économiques, politiques et éthiques

Que peut faire l’UNESCO sur ce plan?

Si nous voulons tirer le meilleur parti des possibilités offertes par l’intelligence artificielle pour le monde entier, nous devons veiller à ce qu’elle soit au service de l’humanité, dans le respect de la dignité et des droits de l’homme.

Or, aucun cadre éthique international, s’appliquant à l’ensemble des développements et des applications de l’intelligence artificielle, n’existe à l’heure actuelle.

L’UNESCO est ce forum universel unique qui dispose d’une expérience de plus de vingt ans dans l’élaboration d’instruments internationaux relatifs à la bioéthique et à l’éthique des sciences et des technologies. Elle peut également s’appuyer sur deux organes consultatifs d’experts qui travaillent activement sur ces questions : la Commission mondiale d’éthique des connaissances scientifiques et des technologies (COMEST) et le Comité international de bioéthique (CIB).

Il est de notre responsabilité de mener un débat universel et éclairé – pas un débat technique mais bien éthique – afin d’entrer dans cette nouvelle ère les yeux grands ouverts, sans sacrifier les valeurs qui sont les nôtres et permettre, si les États membres le souhaitent, d’aboutir à un socle commun de principes éthiques.

Le Courrier de l’UNESCO • juillet-septembre 2018