L’UE vient de publier de nouvelles lignes directrices pour réglementer l’IA
Le nouveau livre blanc de l’Union européenne contenant des lignes directrices pour la réglementation de l’intelligence artificielle reconnaît que l’intelligence artificielle peut entraîner la violation des droits fondamentaux, comme la partialité, la suppression de la dissidence et l’absence de vie privée. Il suggère des exigences légales telles que :
– S’assurer que l’IA est formée sur des données représentatives
– L’obligation pour les entreprises de conserver une documentation détaillée sur la manière dont l’IA a été élaborée
– Apporter des informations aux citoyens lorsqu’ils interagissent avec une IA
– Exiger une surveillance humaine des systèmes d’IA
La critique
Les nouveaux critères sont beaucoup plus faibles que ceux suggérés dans la version du livre blanc qui a fait l’objet d’une fuite en janvier. Ce projet suggérait un moratoire de cinq ans sur la reconnaissance faciale dans les espaces publics, alors que celui-ci n’appelle qu’à un « large débat européen » sur la politique de reconnaissance faciale. Michael Veale, professeur en droits numériques à l’University College London, note que la commission adopte souvent des positions plus extrêmes dans les premières ébauches comme tactique politique, il n’est donc pas surprenant que le document officiel ne suggère pas de moratoire. Cependant, il estime que c’est quand même décevant parce que cela fait suite à un rapport tout aussi terne du groupe d’experts de haut niveau sur l’intelligence artificielle, qui a été considéré comme « fortement influencé par l’industrie ».
En attendant, les lignes directrices du document pour l’IA ne s’appliquent qu’aux technologies qu’il considère comme des technologies « à haut risque », explique Frederike Kaltheuner, chargé de la politique technologique chez Mozilla. Le terme « à haut risque » peut inclure certaines industries, comme le secteur de la santé, ou certains types de technologies, comme la surveillance biométrique. Mais les suggestions ne s’appliqueraient pas à la technologie de la publicité ou à la vie privée des consommateurs, qui, selon Kaltheuner, peuvent avoir des effets importants et qui ne sont pas pris en compte dans le cadre du RGPD.
Le livre blanc n’est qu’un ensemble de lignes directrices. La Commission européenne commencera à élaborer une législation basée sur ces propositions et commentaires à la fin de l’année 2020.
L’UE a également publié un document sur la « stratégie européenne pour les données » qui suggère qu’elle veut créer un « espace européen unique des données » – c’est-à-dire un géant européen des données qui défiera les grandes entreprises technologiques de la Silicon Valley.
Evidemment, ces mesures suscitent certaines interrogations:
Qu’est-ce que la « formation des IA »? Est-ce qu’on parle de l’écriture du code ou des séances de questions-réponses entre une IA germe et ses développeurs?
Qu’est-ce que les « données représentatives »? Qui décidera que les données sont représentatives ou non? (Je suppose que les entreprises doivent tenir des rapports détaillés sur la conception des IA pour permettre aux institutions concernées de vérifier la « représentativité » des données.)
Apporter quelles informations aux citoyens interagissant avec les IA? Est-ce qu’un logiciel de reconnaissance facial interagit avec le citoyens? Quid des interactions avec les étrangers? (Sans condamner par principe toute distinction de traitement entre citoyen et étranger, je préférais être informé sur le sujet par prudence.)
Exiger une surveillance humaine des systèmes d’IA est une mesure de bon sens mais la question est de savoir comment faire… Sans compter que le problème de la reconnaissance faciale n’est pas l’absence de surveillance humaine mais l’usage des données par le surveillant humain.
Certains se souviendront sans doute de cet essai du Docteur Laurent Alexandre, « L’IA va-t-elle aussi tuer la démocratie? » Donc, qu’est-ce qui préoccupe le plus les députés et fonctionnaires européens? La protection des citoyens contre telle ou telle dérive technologique? Sans doute pas plus que leurs droits sociaux… On peut raisonnablement se demander si les eurocrates ne se soucient pas d’avantage du retard de l’UE en matière d’IA.
Les eurocrates craignent aussi d’être disruptés par leurs concurrents « populistes » qui rallient un nombre croissant d’électeurs « ingrats »… Combien n’ont pas envié la liberté d’action dont jouissent les dirigeants chinois? Certains l’ont même pensé tout haut… Ils pensent sans doute qu’une technotature façon RPC leur permettrait de faire d’une pierre trois coups: plus de blocage des peuples et des Etats, plus de concurrence des partis eurosceptiques, plus de retard en IA… Autant dire que les institutions européennes ne feront rien pour limiter sérieusement la mise en oeuvre de l’hypersurveillance, de la reconnaissance faciale et de toute forme d’automatisation.