Skip to content

CERNA : rapport sur l’ Ethique de la recherche en robotique

Rapport n° 1 de la CERNA Novembre 2014 – Commission de réflexion sur l’Éthique de la Recherche en sciences et technologies du Numérique d’Allistene

En favorisant la recherche et les innovations dans le domaine du numérique, Allistene, l’alliance des sciences et technologies du numérique, accompagne les mutations économiques et sociales liées à la diffusion des technologies numériques. L’alliance a pour but d’assurer une coordination des différents acteurs de la recherche dans les sciences et technologies du numérique, afin d’élaborer un programme cohérent et ambitieux de recherche et de développement technologique. Elle permet d’identifier des priorités scientifiques et technologiques communes et de renforcer les partenariats entre les opérateurs publics (universités, écoles, instituts), tout en créant de nouvelles synergies avec les entreprises. Créée en décembre 2009, Allistene regroupe en tant que membres fondateurs la CDEFI, le CEA, le CNRS, la CPU, Inria et l’Institut Mines-Télécom. Ses membres associés sont l’INRA, l’INRETS et l’ONERA.

Ses objectifs :

  • Coordonner les acteurs de la fonction programmatique autour de priorités scientifiques et technologiques,
  • Élaborer des programmes nationaux répondant à ces priorités et des modalités pour la mise en œuvre de ces programmes,
  • Renforcer les partenariats et les synergies entre l’ensemble des opérateurs de la recherche du domaine, universités, écoles, instituts, et aussi les entreprises en particulier au sein des pôles de compétitivité du numérique,
  • Prolonger les priorités et programmes nationaux dans les différentes initiatives européennes et internationales relevant du domaine.

Résumé

La robotique, comme plus largement le numérique, débouche sur de multiples usages aux déploiements parfois aussi massifs qu’inattendus, tel l’essor actuel des drones civils. Dans ce contexte évolutif, il serait vain d’énoncer de nouvelles normes éthiques qui pourraient vite s’avérer inadéquates. Mieux vaut équiper le monde scientifique pour que la dimension éthique devienne indissociable de l’activité de recherche, dans les communautés et les esprits. Le présent avis émet à cet effet quelques préconisations à l’attention des établissements et un ensemble de préconisations ancrées dans la recherche à l’attention des scientifiques.

D’une manière générale, la CERNA préconise en particulier que les établissements ou institutions de recherche se dotent de comités d’éthique en sciences et technologies du numérique, traitant au cas par cas les questions opérationnelles, à l’instar des sciences de la vie ; que des actions de sensibilisation et d’accompagnement soient menées auprès des chercheurs ; que les réflexions éthiques relatives aux projets susceptibles d’avoir un impact direct sur la société impliquent tous les acteurs concernés.

Les préconisations sont d’abord illustrées à travers trois cas d’usage : les robots auprès des personnes et au sein des groupes, les robots dans le contexte médical et les robots dans la défense et la sécurité.

Puis elles sont formulées selon trois thèmes propres à la robotique : l’autonomie et les capacités décisionnelles, l’imitation du vivant et l’interaction affective et sociale avec les humains, et la réparation et l’augmentation de l’humain par la machine.

Le chercheur doit prémunir les systèmes qu’il conçoit contre les effets indésirables, celà prévaut d’autant plus que les robots sont dotés d’une autonomie croissance. La confiance que l’on peut placer dans un robot, les possibilités et limites de celui-ci et du couple qu’il forme avec l’utilisateur, la reprise en main, le traçage – c’est-à-dire la possibilité de rendre compte du comportement – sont à considérer du point de vue éthique dans la conception du robot.

Par l’imitation du vivant et l’interaction affective, le robot peut brouiller les frontières avec l’humain et jouer sur l’émotion de manière inédite. Au-delà de la prouesse technologique, la question de l’utilité d’une telle ressemblance doit se poser, et l’évaluation interdisciplinaire de ses effets doit être menée, d’autant plus que ces robots seraient placés auprès d’enfants ou de personnes fragiles.

La forme androïde que prennent parfois les robots soulève craintes et espoirs démesurés, amplifiés par les annonces médiatiques et touchant parfois aux idéologies et aux croyances. Le roboticien connaît lui avec exactitude l’état de la science et des technologies en la matière, de leurs proximités ou de leurs écarts avec ce que perçoit le public. Il occupe en cela une position privilégie pour éclairer les débats par une communication appropriée, et il ne doit se prononcer, en tant qu’expert, que sur ce qui relève de son domaine de compétence professionnelle.

La réparation de l’humain, à travers les prothèses bioniques par exemple, relève a priori de l’éthique médicale. Cependant elle peut conduire à une augmentation de capacité, volontaire ou non, ou à une altération d’autres fonctions. La préservation de l’autonomie de l’individu réparé et de son intégrité est donc à prendre en compte par le chercheur. Il en va de même de la réversibilité de l’augmentation, de son impact sur l’individu, sans entrer dans les considérations sur l’augmentation vue par certains mouvements comme une amélioration voire un pas vers le dépassement de l’humain.

Cet avis destiné aux roboticiens et à leurs tutelles, est aussi accessible aux non spécialistes, aidés en cela par un lexique.

Préambule

En robotique comme dans le numérique en général, le foisonnement et la rapidité de déploiement des usages issus de l’innovation contribuent à la complexité de l’interaction entre l’offre technologique et l’appropriation sociale, et réduit de ce fait la portée des prévisions scientifiques sur les conséquences de la recherche. Cette relative imprévisibilité des usages ne doit pas dédouaner les scientifiques, mais doit au contraire motiver la réflexion éthique et la recherche d’attitudes et de méthodes adaptées. En effet les chercheurs doivent avoir à l’esprit que leurs travaux transforment de facto la société et peut-être l’Homme, comme l’ont fait beaucoup d’outils et de techniques depuis la maîtrise du feu, même si ce processus n’est pas toujours prévisible.

Ainsi si l’on ne saurait attribuer aux seuls chercheurs la responsabilité de l’impact potentiel de leurs travaux, ceux-ci doivent être conscients qu’ils sont partie prenante d’une responsabilité collective. Le monde de la recherche doit organiser en son sein et d’une manière transdisciplinaire la prise en compte de la dimension éthique, et contribuer aux débats publics, afin que la science demeure un facteur de progrès et que les croyances infondées et l’irrationnel ne conduisent pas à une défiance à son égard. Dans ce contexte, les avis de la CERNA – dont la vocation est de se prononcer sur l’éthique de la recherche en sciences et technologies du numérique – visent à inciter et aider les chercheurs à la vigilance éthique « chemin faisant » plutôt qu’à émettre des prescriptions normatives qui seraient vite obsolètes.

Dans leur formulation, les préconisations s’adressent « au chercheur ». Ce singulier désigne autant le chercheur que les communautés et les établissements scientifiques. La démarche éthique doit en effet être partagée au sein d’un groupe, au sein du monde scientifique et de la société. Par ailleurs, ces préconisations n’envisagent que des perspectives plausibles du point de vue de la robotique, afin de ne pas nourrir la confusion avec ce qui relève de la science-fiction.

Téléchargez le rapport (pdf 63pages)

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion / Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion / Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion / Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion / Changer )

Connexion à %s

%d blogueurs aiment cette page :