L’intelligence artificielle : la bataille commence

L’intelligence artificielle

L’intelligence artificielle est fondée sur différentes théories de calculabilité. C’est dans les années 1930 à l’université de Princeton aux États-Unis qu’émerge la thèse de Church (0) qui servira de pierre angulaire pour ce qui est aujourd’hui désigné comme l’IA. La thèse de Church s’appuie sur des fonctions générales récursives et cherche à démontrer que tout ce que peut réaliser un système physique ou mécanique peut être exprimé par un ensemble de règles de calcul. De ses travaux, il en sortira le personnage clé et précurseur de l’intelligence artificielle  : Alan Turing.

En octobre 1950, il publie son article intitulé « L’ordinateur et l’intelligence » dans la revue philosophique Mind (1). C’est dans cet article qu’apparaît la première définition qui qualifie un ordinateur ou une machine de « consciente » – le texte s’ouvre sur le jeu de l’imitation, dans lequel le chercheur imagine le moyen pour une machine de se faire passer pour un être humain. Il perfectionnera cette idée sur des forums et dans des conférences sur « l’intelligence de la machine ».

C’est pendant l’été 1956 que l’intelligence artificielle fut considérée comme un domaine de recherche, suite à la conférence du campus de Dartmouth College (2). D’un point de vue technique, le fonctionnement de l’intelligence artificielle utilise principalement les statistiques et les probabilités. Le perceptron ou neurone formel est l’outil pour coordonner les données reçues. Il est basé sur le principe d’un neurone naturel. C’est une sorte de fonction de transfert avec différentes entrées (données) induisant la sortie :

Le neurone formel de McCulloch et Pitts est un modèle mathématique très simple dérivé d’une analyse de la réalité biologique.
Éthique de la recherche en apprentissage machine, édition provisoire, juin 2017 – CERNA

L’algorithme, c’est la manière dont les données sont véhiculées vers l’entrée. C’est ainsi que nous trouvons trois types d’algorithmes : supervisé, non supervisé et de renforcement.

Cette explication vulgarisée amorce le b.a.-ba de l’IA mais pour les plus éclairés, à l’heure du deep learning, l’utilisation des réseaux récurrents ou convolutifs de perceptrons multicouches à rétropropagation de gradient pouvant combiner plusieurs types d’algorithmes sont les plus souvent utilisés.

De nos jours

Vous souvenez-vous de la dernière fois où vous n’avez pas eu recours à la technologie numérique ? De la dernière fois où vous avez utilisé un stylo pour écrire une lettre ? Du désagréable moment où il fallait coller le timbre amende sur la contravention reçue au retour de vacances ? Vous rappelez-vous du grésillement de la radio lorsque la réception hertzienne était mauvaise ? Ou encore votre mémoire est-elle suffisamment bonne pour se remémorer du poids de votre dictionnaire et du temps passé à la recherche d’un mot introuvable ? etc.

Aujourd’hui, si vous avez laissé votre mémoire aux dernières pages consultées de votre « Larousse », prenez conscience que tout ce qui a été listé un peu plus haut peut se faire avec votre plus fidèle outil : votre smartphone. Ce petit appareil dont l’utilité première est de téléphoner vous a rendu hétéronome aux nouvelles technologies. Sans vous en rendre compte, il a fallu dix ans pour vous induire une dépendance que les algorithmes ont su fortifier par la création d’une vie sociale : propositions d’ami.e.s , voir de petit.e.s ami.e.s, en plus de vous orienter sur les produits à consommer pour exister.

Comme les choses sont bien faites, que la demande est toujours plus forte en matière d’assistance et de numérisation et que nous sommes maintenant préparés à vivre dans un monde artificiel de « l’avoir » (3), nos dirigeants et nos grandes entreprises nous ont fait entrer dans la quatrième révolution industrielle avec une cinétique telle que nos dix dernières années passées vont nous paraître préhistoriques.

« Ce qui constitue vraiment la révolution que nous connaissons depuis peu est le couplage désormais permis de ces algorithmes avec des données et une capacité de calcul qui n’étaient pas accessibles alors, ouvrant des perspectives dont on ne perçoit pas encore les limites. » (4)

Le Monde est déjà en marche

« En 2015, les ventes de robots industriels ont augmenté de 15% avec un volume record de 253.750 unités et une valeur globale estimée à 11,1 milliards de US$ (+9%) […]. La Chine a acheté 27% de ce volume mondial total (68.600 robots) et dépasse ainsi les ventes de robots industriels dans l’Europe entière (50.100 unités). La Chine a produit 30% de ces robots industriels (20.400 unités en 2015), le reste est importé d’Asie et d’Europe. En Europe, c’est toujours l’Allemagne qui s’équipe le plus en robots industriels (50K unités), suivie de l’Italie pour 6.657 unités. L’Europe de l’Est entre dans une ère d’automatisation. La France accroît ses achats de robots industriels d’environ 3% pour un volume global de 3.045 robots industriels en 2015.

Cette tendance de croissance à deux chiffres devrait continuer sur les prochaines années, voire s’intensifier avec les initiatives Industrie 4.0 (11) qui fleurissent sous différentes appellations dans les différents pays et continents […].

Les filières les plus importantes en valeur sont celles de la robotique médicale, suivie de la robotique domestique et la robotique de loisirs, mais aussi la robotique de terrain (field robotics) avec notamment la robotique agricole et les drones, ainsi que les robots d’inspection, de sécurité et de maintenance. Depuis quelques années, la robotique a conquis nos entrepôts logistiques. Deux nouvelles filières émergent avec force : celle des robots de nettoyage professionnel et celle des robots de relations publiques ou robots-guide. » (5)

Un besoin fondamental d’intelligence artificielle

« Depuis 2012, les investissements dans les startups spécialisées en intelligence artificielle ne cessent de croître, passant en 5 ans de 415 millions de dollars à 5 milliards de dollars […].

La Chine a communiqué en mai 2016, sur un programme de 3 ans comprenant la construction de plateformes pour l’innovation, l’engagement de projets majeurs dans différents secteurs (électroménager, automobile, robot), l’élaboration de politiques budgétaires de soutien et le développement de coopérations internationales. Dans le cadre de son plan Internet+ un fonds spécifique en intelligence artificielle de 140M€ est mis à disposition de l’Académie des sciences chinoise. Les acteurs du privé tels que Baidu investissent dans des centres de deep learning l’équivalent de plusieurs milliards d’euros.

Plus récemment, en octobre 2016, le gouvernement américain a rendu publics un rapport de diagnostic des avancées et des possibles applications de l’intelligence artificielle dans plusieurs domaines d’action, et un plan stratégique national de recherche et développement en intelligence artificielle. En décembre 2016, un troisième rapport est publié sur les conséquences économiques de l’intelligence artificielle et de l’automatisation.

Au Japon, l’ouverture de deux nouveaux centres de recherche en intelligence artificielle fondamentale et appliquée en 2016, avec des investissements respectifs de 57M€ et 157M€, témoigne de l’intérêt prioritaire du gouvernement japonais. Le Canada a de son côté réussi à attirer l’attention par la qualité de son tissu et de ses recherches appliquées, avec la création du pôle NextIA autour de trois universités piliers et un financement dédié. En février 2016, le Parlement européen a adopté un rapport préconisant de créer au plus vite un cadre juridique européen pour les robots. » (4)

Nous l’avons compris, la robotique nous fait entrer dans la quatrième révolution industrielle et pour qu’elle puisse tenir tous ses engagements d’un point de vue économique, il va falloir générer les algorithmes qui donneront « vie » à cette technologie – le développement de l’intelligence artificielle devient donc prioritaire. Et pour que les algorithmes puissent faire « battre le cœur » de ces machines, nous allons devoir récolter énormément de données avec un volume de stockage toujours plus grand (Cloud) et ainsi créer une consommation supplémentaire en énergie et en surface (6).

La France : une volonté d’être acteur

Rapport de synthèse #FranceIA

« Le développement puis l’adoption par le monde industriel de l’intelligence artificielle font de l’IA un élément clé de la quatrième révolution industrielle […]. Il s’agit en définitive de permettre à la France de tirer parti de tout le potentiel de croissance économique et de progrès social offert par l’intelligence artificielle, dans un contexte où la concurrence mondiale se durcit fortement et où l’intelligence artificielle devient aussi un enjeu politique et diplomatique.

En France, depuis plusieurs mois, de nombreux acteurs, des groupes de réflexion et des institutions se sont emparés des enjeux de l’intelligence artificielle. De nombreux document ou autres initiatives en résultent […]. L’identification des technologies clés de l’intelligence artificielle et le soutien à leur maîtrise par les laboratoires et les entreprises françaises est donc l’un des enjeux majeurs de ces 10 prochaines années […].

Pour soutenir la dynamique française autour de l’intelligence artificielle, le secrétaire d’État chargé de l’Industrie, du Numérique et de l’Innovation et le secrétaire d’État chargé de l’Enseignement supérieur et de la Recherche ont lancé, le 20 janvier 2017, la démarche #France IA. Cette démarche de mobilisation de toute la communauté française de l’intelligence artificielle a pour objectif principal l’élaboration d’une stratégie nationale destinée à confirmer la place de la France au premier plan de l’intelligence artificielle, tout en facilitant l’appropriation des technologies par le tissu économique et en répondant aux craintes souvent exprimées sur la rapidité de ces changements […].

La France dispose de chercheurs au meilleur niveau international dans tous les sous domaines de l’intelligence artificielle […]. Il n’y a pas dans la recherche amont une véritable présence des grands groupes industriels français ; cette recherche reste financée pour l’essentiel par des fonds publics. » (4)

Les résolutions

« De façon plus générale, le déploiement de l’intelligence artificielle dans les entreprises, qu’elles soient productrices ou utilisatrices d’IA, est directement dépendant de la disponibilité de données et d’infrastructures numériques permettant de les traiter, ainsi que de la confiance dans la pérennité de ces outils. L’usage des technologies de cloud computing est souvent présenté comme la solution, mais il pose deux défis majeurs :

– l’augmentation des puissances de calcul nécessaires et dédiées à l’apprentissage machine ;
– la disponibilité d’un cloud maîtrisé, français ou européen, pour garantir la sécurité des données qui y sont déposées et traitées. […]

L’impact de l’intelligence artificielle sur sept segments d’activité a plus particulièrement été étudié dans le cadre de l’initiative France IA : la construction automobile, avec le véhicule autonome, la problématique de la relation client, le secteur de la finance, celui de la santé, des énergies renouvelables, de la robotique et de l’éducation numérique. […] Le besoin croissant de solutions basées sur des technologies d’intelligence artificielle fait apparaître la nécessité de former davantage d’experts et de chercheurs dans les domaines scientifiques sous-jacents. » (4)

Nous constatons que la France s’engage dans la quatrième révolution industrielle avec un maximum d’ambition et de lucidité. Il est vrai qu’à travers le réel enjeu économique de l’intelligence artificielle c’est surtout la crainte de devenir dépendant des états souverains qui pousse à l’action.

Prenant en compte la situation mondiale sur les technologies basées sur les algorithmes, la France veut devenir leader du marché en conservant ses cerveaux et en proposant des financements pour le développement de ses startups et grandes entreprises. Mais au-delà de l’aspect financier ce sont les risques éthiques de l’utilisation de l’intelligence artificielle sur la société qui animent le débat.

En effet, le rapport #FranceIA soulève de nombreux points sur les dangers de l’utilisation de cette technologie algorithmique pour une population non préparée :

protection : faciliter l’accès aux données par des blockchains, le stockage des données (cloud) et encourager le recours à l’intelligence artificielle pour l’abreuver de données sont des risques importants de voir nos données personnelles utilisées de manière frauduleuse ou à l’encontre de nos propres intérêts.
formation : dans l’ensemble, la qualité de la formation initiale en intelligence artificielle en France, au niveau master, semble répondre aux attentes des entreprises au regard du niveau d’expertise atteint. Cependant, le vivier ainsi formé suffit à peine à combler les besoins des startups et des grands groupes actifs dans le domaine.
économie : […] risque de nouvelles dépendances économiques, vis-à-vis de détenteurs de certaines technologies critiques ou, ce qui est plus nouveau, de détenteurs de gros volumes de données.
emploi : s’agissant de l’emploi total, sujet qui suscite le plus de craintes, force est de constater que l’impact de l’intelligence artificielle (et plus généralement du numérique) reste incertain, les études disponibles fournissant des résultats contradictoires.
société : il est possible par exemple que, si l’on n’y prend pas garde, une diffusion inégale des technologies sur le territoire ou les mutations engendrées sur le marché de l’emploi ne renforcent une polarisation du développement des usages au bénéfice des métropoles.

Un avenir fait d’algorithmes et de doutes

En France, en janvier 2017, le rapport Mady Delvaux (7) est publié. Il contient des recommandations concernant des règles de droit civil sur la robotique. Puis c’est en juin 2017 que la CERNA (8) communique une étude sur l’éthique de la recherche en apprentissage machine. Elle vise à sensibiliser et rendre vigilants les chercheurs sur les risques de l’intelligence artificielle : « En effet les chercheurs doivent avoir à l’esprit que leurs travaux contribuent de facto à transformer la société et peut-être l’Homme, comme l’ont fait beaucoup d’outils et de techniques depuis des millénaires, même si ce processus n’est pas toujours prévisible. » (9)

On constate que la France mesure avec importance les problèmes éthiques liés à la numérisation de notre société. On observe aussi que l’ensemble des pays riches font cap, toutes voiles dehors, vers une bataille que cette quatrième révolution industrielle va générer. Nombre d’études sur les risques d’une utilisation massive du numérique dans la vie de tous les jours ont été réalisées dans le but de sensibiliser et d’informer les institutions et les citoyens.

Cependant, en analysant la situation, nous pouvons relever que ces manifestes identifient comme citoyens, ceux dont l’intérêt ou la connaissance des technologies numériques est essentiellement tournée vers l’industrie et la consommation. Les pays impliqués dans le développement du numérique, qui imposent par leurs textes les sujets éthiques, représentent une toute petite partie de la population mondiale (environ 10%) (10) et bon gré mal gré nous en faisons partie.

Nous déciderons ainsi de comment sera fait notre monde, sans prendre en considération les modes de vie de nos concitoyens : l’éthique a subitement un goût un peu plus amer pour les 90% restants. Toutefois, les pays riches commencent à prendre réellement conscience des risques de l’ultra-numérisation. Cette démarche aurait dû être entreprise il y a plus de dix ans afin qu’un cadre soit adopté aujourd’hui. Cela fait une décennie que le numérique explose sans cadre institutionnel et les décideurs ont un sérieux train de retard sur la vision de l’impact qu’auront ces technologies sur nos vies – demain est déjà là !

Le manque de profondeur sur l’appréhension des impacts et des risques est significatif (climat, énergie, emploi, condition de vie, etc.). La précipitation des états à régir des textes ne leur permet pas d’aboutir à des recommandations sérieuses et exhaustives et cela ira à l’encontre de notre libre arbitre – dans la crainte de ne pas contrôler leur environnement, les mesures restrictives risquent de pleuvoir. De notre moteur de recherche préféré à l’acceptation d’un prêt immobilier en passant par le véhicule autonome, nous voilà désormais conditionnés par les algorithmes. Ils font parties de nos vies sans même que nous nous en rendions compte mais lorsque la robotique commencera à peser sur notre quotidien (marché de l’emploi, propriété intellectuelle, droit, etc.) et lorsque nos négligences sur le climat et sur le reste de la population mondiale referont surface, 2027 nous paraîtra moins fantastique.

Alors, pourquoi consacrer autant d’énergies au développement de l’intelligence artificielle et à l’ultra-numérisation de notre environnement sous couvert d’une révolution industrielle ? Ne pourrions-nous pas utiliser cette technologie à d’autres fins : psychologie humaine, environnement, pauvreté, etc. ?

Nicolas Bernard
Diplômé de l’École des applications militaires de l’énergie atomique (EAMEA). Après une longue carrière dans les forces sous-marines de la Marine Nationale en tant qu’atomicien, Nicolas travaille comme chargé d’affaires en industrialisation militaire pour le groupe DCNS. Il nous propose des articles d’opinions sur des questions importantes en matière de transhumanisme, post humanisme et d’intelligence artificielle.

Notes :

(0) La thèse de Church-Turing, Olivier Bournez (LIX, CNRS, École Polytechnique)
(1) Turing, A.M. (1950). Computing machinery and intelligence. Mind, 59, 433-460
(2) Dartmouth Artificial Intelligence (AI) Conference
(3) De l’avoir à l’être, le chemin de sagesse, Patrice Brasseur
(4) #FranceIA – Rapport de synthèse France Intelligence Artificielle
(5) Quelques chiffres : La robotique industrielle et la robotique de services – Innorobo Community
(6) Le cloud, les data centers et l’énergie
(7) Rapport Mady Delvaux
(8) CERNA
(9) Éthique de la recherche en apprentissage machine, édition provisoire, juin 2017 – CERNA
(10) La répartition du patrimoine dans le monde – L’Observatoire des inégalités
(11) Industrie 4.0, wikipedia

Rapport Mady Delvaux – la révolution industrielle

L’OCDE (1) avait répertorié en 2001 l’existence de 256 codes de conduite émanant d’entreprises individuelles ou de secteurs d’activités (2). Il s’agit de la manifestation du droit souple (soft law) qui a souvent pour objectif d’éviter ou de devancer une législation formelle. En cela, l’initiative européenne de créer une charte éthique sur la robotique présente une originalité, puisqu’elle ne provient pas du monde de la robotique lui-même (3).

Il est urgent et important de créer une structure juridique contraignante avec un recadrage éthique pour notre future vie qui s’engage sur une « révolution industrielle ».

Seulement, la révolution a déjà commencé dans de nombreux domaines :

. automobile autonome > Roborace en Argentine avec les Devbot (4) et Waymo de Google (5),
. emploi > robots pour tâches répétitives et complexes (6),
. armement > drones militaires (7),
. santé > l’IA implantée dans l’univers médical (8),
. vie quotidienne > jeux vidéo, internet, domotique, etc. (9)

Le rapport

Le Parlement Européen a adopté le 16 février 2017 le rapport Delvaux (10), par 313 voix contre 285 et 20 abstentions.

Celui-ci aborde les différentes recommandations et principes à prendre en compte afin d’aboutir à un cadre juridique souhaité par l’Union Européenne dans le domaine du droit civil sur la robotique. Il met l’accent sur les considérations générales concernant les robots : la notion de robot et ses implications, la question de la conscience, les problèmes posés par la responsabilité en robotique et les principes éthiques à développer en robotique.

L’élément phare de ce rapport est la proposition d’une taxe sur le robot qui viendrait supporter le scénario catastrophe d’une hausse redoutée du chômage – le revenu universel.

Enfin, la Direction Générale des Politiques Internes du Parlement Européen a été consultée pour établir une critique sur le rapport dont nous pouvons lire la synthèse :

« La proposition de résolution invite à créer d’ores et déjà un instrument législatif en robotique et en intelligence artificielle qui anticiperait les évolutions scientifiques prévisibles à moyen terme, et qui pourrait évoluer pour en suivre les progrès. » (11)

Un contenu qui amène au débat

À travers les recommandations du rapport sur les futures mesures à adopter pour cadrer nos produits technologiques et débuter l’offensive sur un marché déjà bien investi, nous devinons l’enjeu économique et le risque éthique que cela va engendrer. Le rapport construit une éthique, disposée à admettre, pour le moment, le robot comme une aide à notre évolution, palliant à la pénibilité de notre travail ou encore pansant nos maux : ce sont des arguments qui atténuent une utilité plus dissimulée. Ne mettons pas de côté l’intérêt bien marqué à l’élaboration d’un texte juridique – le programme SPARC (12, 13) nous montre bien dans quel genre de course s’engagent nos politiques pour augmenter la richesse de nos industries en les intégrant à la création d’un nouveau besoin en technologie. Comprenons : l’Europe veut devenir « leader mondial » dans le domaine de la robotique.

En effet, nous pouvons deviner que l’existence d’un tel texte permettrait à l’Europe d’être acteur de cette « révolution industrielle » tout en ouvrant ce marché aux financements les plus divers.

Pour que l’éthique d’une telle implication dans l’avenir de la robotique soit complète, il aurait été juste et responsable d’apporter des « considérations » sur les risques de fragiliser encore plus notre environnement. Mais il est vrai, pour aborder un sujet qui anime les plus sensibles écologistes d’entre nous il aurait fallu un peu plus d’empathie – quelle est la valeur de notre planète au regard du statut juridique de cette manne financière ? Même si le rapport considère l’impact de l’industrie robotique sur l’environnement (14) (seulement 2 paragraphes sur 103) et préconise de développer des moyens pour en « limiter l’incidence environnementale », il reste trop superficiel dans la situation actuelle qui est largement dégradée. Il est donc légitime d’être pessimiste sur les choix futurs des entrepreneurs entre productivité et environnement ; nous avons appris que l’un coïncide difficilement avec l’autre. A noter que la construction de cette technologie impose des ressources en minerais qui s’amenuisent, quand bien même nous surpasserions cette contrainte, détruire les robots obsolètes polluera encore un peu plus notre environnement – à ce jour, nous ne savons toujours pas recycler nos produits technologiques bourrés de terres rares.

De même une porte est entr’ouverte sur la considération à donner une « personnalité juridique » (14, paragraphes AC et 59 c,f) aux robots – ressentez ce frisson d’effroi lorsque Monsieur Robot vous fera un procès pour harcèlement moral.

Il aurait été aussi responsable d’évoquer quelques recommandations sur l’utilisation de la robotique et de l’IA dans les armées mais peut-être qu’il n’est pas utile de cadrer ce périmètre où l’éthique est toute relative. A défaut, vous pouvez toujours vous intéresser à la dangerosité d’une telle évolution, dénoncée par des chercheurs de renom comme Stephen Hawkings, ou des ONG, comme Human Rights Watch dans sa campagne « Stopper les robots tueurs ».

En regardant ce projet d’un peu plus près et avec le degré de dangerosité envisagé, effectivement, il va falloir être réactif sur la constitution d’une loi régissant notre future technologie.

Cependant, et c’est ce qui est peut-être le plus inquiétant, ne perdons pas de vue que nous sommes face à une proposition de résolution parlementaire (l’article 34-1 de la Constitution) et comme l’indiquait Bernard Accoyer (président de l’Assemblée nationale de 2017 à 2012) : « La résolution, c’est pour expliquer. La loi, c’est pour agir ». Ce rapport a donc la structure d’une charte, aussi il faudra patienter avant de voir des mesures se concrétiser. A ce propos, en attendant la constitution d’une loi sur la robotique, eh bien ! Rassurez-vous, Eurobotics (15) use déjà de son « livre vert », une charte sans poids juridique, pour commencer la « révolution industrielle ».

Une prise de conscience

En revanche, nous pouvons trouver une certaine crédibilité à ce rapport. Il essaie d’évaluer l’impact de cette transition vers l’ère robotique sur des points importants, constitutifs de notre société (emplois, médecine, transport, sécurité, recherche, etc), avec des « valeurs humanistes intrinsèquement européennes et universelles ».

En effet, il a une pertinence éthique dans son ensemble grâce à une réelle prise de conscience du devenir de l’humanité puisqu’on incorpore et accepte l’IA et la robotique dans la vie de tous les jours. Qui plus est, tordons le cou aux idées les plus farfelues de ceux qui pensent vivre dans une dystopie orwellienne – il faut être critique et responsable de notre évolution fulgurante même s’il est difficile de sacrifier la pensée darwinienne. D’ailleurs, Laurent Alexandre, qui effectuait une très remarquée intervention au Sénat le 19.01.2017 à propos de l’impact de l’Intelligence Artificielle sur la société et l’économie française (16), peut voir dans le rapport que les sujets de l’emploi et de la formation sont abordés avec une relative lucidité. La charte prépare la population à ce bouleversement même si « le revenu universel » (17) alimenté par une future taxation a succombé à la fronde des politiques de droite qui siègent au parlement de l’Union Européenne.

Gardons les yeux ouverts

A souligner que ceux qui nous procurent si souvent ce goût amer d’une politique détachée du réel au service du pouvoir régalien, des intérêts personnels et financiers, sont aussi les mêmes qui établiront les règles sur une révolution dont ils ne comprennent pas toujours le fonctionnement. Donc, même si leur projet de loi représente une prise de conscience par l’Occident sur la potentielle dangerosité de la robotique et de l’IA, un retard est déjà accusé sur la maturation des esprits pour encaisser ce futur et rapide changement. La vraie prise de conscience devra être faite par l’homme « normal » et il devra établir une position critique pour ne pas être absorbé par un système déshumanisé.

N’oublions pas que de nombreux et brillants fervents du courant transhumaniste s’engouffreront dans cette ouverture pour charrier leurs égos par les idées les plus folles – il va donc falloir souhaiter des politiques tout aussi brillants, et quant à nous, faire preuve d’une incroyable résilience à défaut d’être déjà complètement englués dans l’univers des GAFA (18).

Le spectacle a déjà commencé

Enfin, la motivation première d’un tel rapport est à craindre – devenir leadership dans les domaines de la robotique, l’IA, la NBIC (19), etc. et donc concurrencer des acteurs déjà bien aguerris. Même si une étude sur l’éthique nous garantit un avenir meilleur et sécurisé, il est difficile de croire que tout se passera dans le meilleur des mondes. Gardons le sens critique car l’Europe, la vieille conservatrice, vient d’ouvrir les portes au libre-échange de cette dangereuse « révolution industrielle » – les trois coups retentissent et le rideau s’ouvre…bienvenue dans une nouvelle ère !

Nicolas Bernard
Diplômé de l’École des applications militaires de l’énergie atomique (EAMEA). Après une longue carrière dans les forces sous-marines de la Marine Nationale en tant qu’atomicien, Nicolas travaille comme chargé d’affaires en industrialisation militaire pour le groupe DCNS. Il nous propose des articles d’opinions sur des questions importantes en matière de transhumanisme, post humanisme et d’intelligence artificielle.

Notes :

1) Organisation de Coopération et de Développement Économiques
2) « Responsabilité des entreprises. Initiatives privées et objectifs publics », Rapport OCDE, 2001, p. 5.)
3) Département thématique C : droits des citoyens et affaires constitutionnelles, 4.2. Analyse de la valeur juridique de la charte
4) Futura sciences : Roborace : comment s’est déroulée la première course de voitures autonomes ?
5) Le Figaro Tech & Web : Google ne fabriquera pas sa petite voiture autonome
6) Kuka Robotics solutions d’automatisation intelligentes
7) Air & Cosmos : actualité drones militaires
8) France Science : Comment l’intelligence artificielle révolutionne le monde de la santé américain
9) TPE sur l’Intelligence Artificielle
10) Résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL))
11) Département thématique C : Droits des citoyens et affaires constitutionnelles, PE 571.379, p.7, paragraphe 25
12) Commission européenne, programme SPARC : L’UE lance le plus vaste programme au monde dans le domaine de la robotique civile, avec à la clé 240 000 nouveaux emplois attendus
13) site eurobotics : https://www.eu-robotics.net/sparc/ sur la robotique p. 30 à 31)
14) rapport contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL)) du 27/01/2017
15) Association du droit des robots : EuRobotics : Livre vert sur les aspects juridiques des robots
16) Impact de l’intelligence artificielle sur l’économie – Laurent Alexandre au Sénat
17) Le Monde : En pleine campagne, Benoît Hamon rabote (puis remet) son « revenu universel »
18) « géants du web » Google, Apple, Facebook, Amazon
19) Nanotechnologies Biotechnologies Informatique et Sciences Cognitives

Le rapport de la députée européenne Mady Delvaux a été adopté

Le rapport de la députée européenne Mady Delvaux a été adopté en plénière le 16 février par le Parlement européen. La taxe robot a été rejetée pour ne pas nuire à l’industrie. Par conséquent, l’introduction d’un revenu universel financé par cette fameuse taxe n’est plus envisageable.

« Bien que je me félicite que le Parlement ait adopté mon rapport sur la robotique, je suis également déçue que la coalition de droite […] ait refusé de tenir compte des éventuelles conséquences négatives sur le marché du travail. Ils ont rejeté un débat général et ouvert, et ont ainsi négligé les craintes de nos citoyens », a-t-elle déclaré.

⇒ revoir les Textes déposés du RAPPORT du 27 janvier 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL)) (ou version PDF)

⇒ voir les Textes adoptés de la Résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL)) Édition provisoire (ou version PDF).

Procédure : 2015/2103(INL)

Taxe robots, revenu universel: le Parlement européen n’en veut plus
Le Parlement européen réclame une législation éthique sur les robots et l’IA
Le Parlement européen a finalement rejeté la “taxe robot”
En Europe, les robots pourraient devenir des « personnes électroniques »

Robots : les députés de la commission des affaires juridiques demandent des règles européennes

Parlement européen – Communiqué de presse (12-01-2017)

La Commission européenne devrait proposer des règles au niveau de l’UE sur le domaine en évolution rapide de la robotique. Le but est notamment de régler des questions telles que le respect des normes éthiques et la responsabilité en cas d’accidents impliquant des voitures sans conducteur. C’est ce qu’a demandé la commission des affaires juridiques lors d’un vote jeudi.

Le rapporteur Mady Delvaux (S&D, LU) a déclaré: “De plus en plus de domaines touchant nos vies quotidiennes sont concernés par la robotique. Pour faire face à cette réalité et garantir que les robots sont et restent au service de l’homme, nous avons besoin de créer de toute urgence un cadre juridique européen”. Son rapport, adopté par 17 voix pour, 2 voix contre et 2 abstentions, se penche sur les questions liées à la robotique, comme la responsabilité, la sécurité et les changements sur le marché du travail.

Les députés soulignent que des règles à l’échelle de l’UE sont nécessaires pour exploiter pleinement le potentiel économique de la robotique et de l’intelligence artificielle, tout en garantissant un niveau standard de sûreté et de sécurité. L’UE doit prendre l’initiative en matière de normes réglementaires, afin de ne pas être contrainte de suivre celles fixées par des pays tiers, estime le rapport.

Une nouvelle agence européenne pour la robotique et un code de conduite éthique

Les députés exhortent la Commission à envisager la création d’une agence européenne pour la robotique et l’intelligence artificielle, afin de fournir aux autorités publiques une expertise technique, éthique et réglementaire.

Par ailleurs, ils proposent un code de conduite éthique volontaire qui prévoirait des règles pour déterminer qui serait responsable des conséquences de la robotique sur les aspects sociaux, sur l’environnement et sur la santé humaine, et qui garantirait que ces responsables opèrent en respectant les normes juridiques, de sécurité et d’éthique.

Par exemple, ce code devrait recommander que les concepteurs de robots incluent des “boutons d’arrêt d’urgence” ou coupe-circuit pour arrêter les robots en cas d’urgence, ajoutent les parlementaires.

Règles sur la responsabilité

Les députés font remarquer que des règles harmonisées sont en particulier nécessaires pour les voitures sans conducteur. Ils appellent à un système d’assurance obligatoire et à un fonds pour garantir le dédommagement total des victimes en cas d’accidents causés par ce type de voitures.

À long terme, la possibilité de créer un statut juridique spécial de “personnes électroniques” pour les robots autonomes les plus sophistiqués devrait également être envisagée, afin de clarifier la responsabilité en cas de dommages, expliquent les députés.

Impact social

De plus, le développement de la robotique pourrait entraîner d’importants changements sociétaux, notamment la création et la perte d’emplois dans certains domaines, affirme le texte. Il invite instamment la Commission européenne à suivre ces tendances de près et plaide pour de nouveaux modèles d’emploi ainsi que pour la viabilité du système fiscal et social actuel pour la robotique.

Demande de législation

Cette initiative législative invite la Commission européenne à présenter une proposition législative. La Commission n’est pas contrainte de le faire mais doit exposer ses raisons en cas de refus.

Prochaines étapes

Le Parlement dans son ensemble se prononcera sur ces propositions en février. Elles devront être adoptées à la majorité absolue conformément à la procédure d’initiative législative. → Projet de rapport de la commission sur les Règles de droit civil sur la robotique

⇒ RÈGLES EUROPÉENNES DE DROIT CIVIL EN ROBOTIQUE (télécharger le PDF)

Le présent rapport d’étude a été demandé par la commission des affaires juridiques du Parlement européen et commandité, supervisé et publié par le département thématique “Droits des citoyens et affaires constitutionnelles”. Les départements thématiques fournissent des expertises indépendantes, internes ou externes, dans le but d’aider les commissions du Parlement européen et les autres organes parlementaires à concevoir la législation et à exercer le contrôle démocratique des politiques externes et internes de l’Union.

 

Le Parlement européen soulève des questions éthiques sur les robots et l’intelligence artificielle

Transcription : Qu’il s’agisse de conduire des voitures, de nourrir et traire des vaches, ou d’effectuer une opération chirurgicale, les robots sont à la hauteur de la tâche et pénètrent toute une gamme de marchés. Ils sont désormais 1,7 million à travers le monde. Mais cette expansion pose quelques questions urgentes : Les robots ont-ils des droits ? Et si tel est le cas, quels sont-ils ? Quels principes éthiques devraient-ils suivre ? Peuvent-ils être tenus responsables en cas d’accidents ? Pour les députés européens, il est temps d’aborder ces questions. La première chose que l’on doit toujours dire aux gens, c’est qu’un robot n’est pas un être humain et qu’il ne le sera jamais. Un robot peut montrer de l’empathie, mais il ne sentira jamais d’empathie. Vous pouvez être physiquement dépendant lorsque vous avez besoin d’un robot pour certaines tâches. Mais vous ne devez jamais penser qu’un robot est un être humain et qu’il vous aime.

Ils peuvent être dépourvus d’émotions, mais ils ne sont pas exempts de règles. Si un robot cause des dommages, ces dommages doivent être réparés : non seulement par le propriétaire du robot, mais aussi par ses concepteurs, producteurs et utilisateurs. Les robots d’auto-apprentissage se placent au centre des débats. Ils sont conçus pour prendre des décisions de leur propre chef. Les députés européens ont proposé une assurance obligatoire pour ces derniers, car ils sont moins prévisibles que les générations précédentes. Jusqu’à présent, la règlementation relative à l’utilisation civile des robots est pratiquement inexistante dans la plupart des États membres. Les députés européens espèrent faire passer l’Union européenne à la vitesse supérieure sur ce plan. (source : EuroparlTV Parlement européen)