Le gouvernement canadien embrasse ouvertement le transhumanisme

Le texte et les diapositives qui suivent sont tirés directement de l’organisation du gouvernement fédéral du Canada, Horizons de politiques Canada. Il s’agit de transhumanisme et de technocratie purs qui visent à “l’intégration physique complète des entités biologiques et numériques” afin de “modifier l’être humain – notre corps, notre esprit et notre comportement“.

Qu’arrive-t-il lorsque la biologie et les technologies numériques fusionnent ?

Dans les années à venir, les technologies bionumériques pourraient être intégrées dans nos vies de la même manière que les technologies numériques le sont présentement. La convergence des systèmes biologiques et numériques pourraient changer notre manière de travailler, de vivre et même d’évoluer en tant qu’espèce. Plus qu’un changement technologique, cette convergence bionumérique pourrait transformer notre compréhension de nous-mêmes et nous amener à redéfinir ce que nous considérons comme humain ou naturel.

La convergence bionumérique pourrait avoir des répercussions profondes sur notre économie, nos écosystèmes et notre société. En nous tenant prêts à l’appuyer, tout en gérant les risques qui en découlent avec soin et en faisant preuve de sensibilité, nous serons en meilleure position pour gérer les considérations sociales et éthiques et pour orienter les conversations concernant les politiques et la gouvernance.

Guidé par son mandat, Horizons de politiques Canada (Horizons de politiques) souhaite amorcer un dialogue éclairé et utile sur les avenirs plausibles de la convergence bionumérique et sur les questions de politiques qui pourraient émerger. Dans ce premier document, nous définissons et explorons la convergence bionumérique – l’importance de l’explorer maintenant, ses caractéristiques, les nouvelles capacités qui pourraient en découler et quelques répercussions initiales sur les politiques. Nous voulons amorcer un dialogue avec un large éventail de partenaires et d’intervenants sur la forme que pourrait prendre notre avenir bionumérique, sur les répercussions que cette convergence pourrait avoir sur les secteurs et les industries, ainsi que sur l’évolution possible de notre relation avec la technologie, avec la nature et même avec la vie.

Qu’est-ce que la convergence bionumérique ?

La convergence bionumérique est l’association interactive, parfois au point de fusion, des technologies et des systèmes numériques, d’une part, et biologiques d’autre part. Horizons de politiques explore trois différentes voies de convergence.

Téléchargez le PDF pour poursuivre la lecture : Explorer la convergence bionumérique

convergence bionumérique

Qu’est-ce que la convergence bionumérique?

Dans cette vidéo, ils parlent de la convergence envisageable du numérique et du vivant, et de ses effets potentiels sur notre vie quotidienne.

Transcription

NARRATEUR : Les technologies numériques et les systèmes biologiques ont commencé à s’imbriquer et à fusionner de manières qui pourraient bouleverser nos hypothèses au sujet de la société, de l’économie, et du corps humain. C’est ce que nous appelons la convergence bionumérique.

Au cours des quarante dernières années, l’économie s’est transformée avec l’évolution numérique des technologies de l’information comme l’lnternet, les téléphones intelligents, les applis, et l’analyse de mégadonnées. La convergence bionumérique pourrait changer la façon dont nous concevons et produisons des biens, révolutionner les soins de santé et l’agriculture, modifier notre environnement, et même changer la façon dont l’être humain évolue en tant qu’espèce.

Aujourd’hui, de nombreuses innovations accélèrent ces changements, mais quels sont les éléments clés à surveiller?

Quelles nouvelles capacités bionumériques pourraient complètement transformer le monde?

AVALYNE DIOTTE : Je suis Avalyne.

MARCUS BALLINGER : Je m’appelle Marcus Ballinger.

ERIC WARD : Je m’appelle Eric Ward.

KRISTEL VAN DER ELST : Je suis Kristel Van der Elst.

PIERRE-OLIVIER DESMARCHAIS : Je m’appelle Pierre-Olivier Desmarchais.

MARCUS : L’idée du bionumérique, c’est vraiment celle de la convergence de deux domaines qu’on considère souvent comme séparés. En gros, on prend quelque chose de biologique et quelque chose de numérique et combine les deux.

Comme la « DragonflEye » par exemple, ce qu’ils font, c’est qu’ils prennent une libellule, donc une entité biologique, et ils lui mettent une puce sur le dos et ils le relient à un capteur qui permet de stimuler les nerfs de l’entité biologique et de contrôler la libellule. C’est une intégration simple de deux choses, assez évidente pour tout le monde.

L’autre, c’est celle où il y a d’énormes avancées dans un domaine qui dépendent d’avancées dans d’autres disciplines. Par exemple, on sait maintenant que les gènes activent ou désactivent des choses, mais on ne sait cela que parce que nous avons des technologies numériques énormes qui permettent de séquencer le génome. On peut utiliser l’intelligence artificielle pour repérer les bons gènes, donc on n’aurait pas pu avoir ces avancées en biologie sans les avancées du numérique.

La troisième possibilité, c’est une convergence plus conceptuelle. On pensait que la vie était plutôt aléatoire et imprévisible, quelque chose de mystérieux. Par contre on considérait les technologies numériques comme hautement prévisibles et précises, on programme un ordinateur pour une tâche particulière, et il n’en dévie pas du tout.

Ce qu’on observe dans cette convergence, c’est qu’on comprend maintenant la biologie. En fait, elle est beaucoup plus prévisible, beaucoup plus proche du numérique, on peut programmer des séquences génétiques ou programmer l’ADN pour faire des tâches spécifiques, donc on peut programmer des organismes d’une façon comparable à ce qu’on faisait pour les machines.

À l’inverse, on constate que les technologies numériques deviennent plus complexes, comme l’intelligence artificielle par exemple, qui se comporte parfois de façon inattendue. À bien des points de vue, elle commence à ressembler à ce qu’on pensait de la biologie, imprévisible, aléatoire, donc quand on y regarde de plus près, on peut voir ça comme l’intégration ou la synthèse de ces deux concepts, plutôt que comme deux éléments séparés.

PIERRE-OLIVIER : Une des idées qui m’a surpris le plus, c’est sans doute l’année dernière, le chercheur chinois qui a donné naissance à ce qu’on appelle les « jumelles CRISPR », qui est une technologie, une biotechnologie qui permet de modifier l’ADN in vitro, et on peut commencer à s’imaginer, au cours des dix à quinze prochaines années, où est-ce que cette technologie-là pourrait nous mener, dans une optique où on pourrait peut-être éliminer certaines maladies et immuniser le corps humain au points d’une génération complète contre certaines maladies. Et aussi c’est la possibilité de personnaliser l’humain dans le futur.

AVALYNE : L’une des choses les plus étranges que j’ai mis du temps à vraiment comprendre, c’est la biologie synthétique, le café moléculaire, par exemple, quand j’ai fait des recherches sur une entreprise à Seattle qui fait du café sans grains. Ils abordent ça du point de vue environnemental, et il y a beaucoup de mouvement dans le bionumérique autour de la durabilité, et ça va de la viande imprimée en 3D, imprimer une poitrine de poulet dans votre cuisine au lieu de l’acheter à la ferme et faire du café synthétique, sans les grains.

MARCUS : Je crois qu’une des choses les plus bizarres était un robot dans lequel on avait implanté des cellules cérébrales. Il n’est pas conscient au même sens que nous, mais il semble prendre des décisions, le cerveau semble décider où envoyer le robot. Je trouve ça vraiment bizarre.

ERIC : Au cours de nos recherches prospectives, nous avons vu émerger l’intégration de nos technologies informatiques en réseau et des systèmes biologiques qui ont évolué sur Terre, et l’apparition d’une troisième entité, quelque chose de nouveau. C’est ça que nous voulons explorer par la prospective.

AVALYNE : Ça pourrait chambouler beaucoup de choses, avec les levures et les bactéries, on peut tout faire à partir de levures. On commence à voir que les gens peuvent fabriquer des choses à la maison qui auraient pris tout un laboratoire de recherche, et c’est ce qui est si intéressant dans le bionumérique, c’est qu’il est accessible.

KRISTEL : Nous pensons que la convergence entre les systèmes biologiques et les systèmes numériques en est au même point où étaient les technologies numériques dans les années 80. Donc, cette convergence bionumérique ouvre la voie à des façons entièrement nouvelles de nous changer, nos corps, notre esprit, nos comportements. Cela nous permet aussi de changer nos écosystèmes, de créer de nouveaux organismes. Nous pourrons aussi d’une façon différente, percevoir, stocker, traiter et transmettre des informations. Nous pourrons aussi restructurer différemment les chaînes d’approvisionnement et la production.

Nous pensons que dans les années qui viennent, nous pourrons avoir une intégration de cette technologie bionumérique, tout comme le sont maintenant les technologies numériques. Nous pouvons aussi être amenés à nous poser des questions sur ce que ça veut dire d’être humain, ce qui est naturel. Par conséquent, vu l’ampleur des implications de la convergence bionumérique, nous devons commencer à réfléchir à ce qui est possible, à ce qu’on veut voir dans le futur pour que nous puissions construire un futur bionumérique que nous voulons.

ERIC : Ce que j’espère pouvoir attendre de cette étude, c’est de faire ressortir une image assez précise d’avenirs plausibles de la convergence bionumérique pour le Canada. J’ai beaucoup d’espoir pour la prochaine génération et ce qu’elle pourra accomplir à mesure que la convergence bionumérique évoluera.

Pendant les décennies des technologies de l’information, nous nous sommes surtout concentrés sur l’économie du savoir. Si on veut éviter de se tromper à l’époque du bionumérique, dans les choix que nous ferons, les connaissances ne suffiront pas. Il faudra aussi de la sagesse.

KRISTEL : La convergence bionumérique aura des impacts sur différentes industries et sur plein de domaines politiques. Pour un analyste, il serait intéressant de commencer à regarder ce qui pourrait arriver. En quoi est-ce que ça impacte en fait mon domaine de responsabilité ? Est ce qu’il y a des changements dans le futur pour lesquels il faut que je me prépare ? Est ce qu’il y a besoin de nouvelles lois qui doivent être créées ? Est ce qu’il y a besoin de changements dans les stratégies politiques afin d’arriver à nos buts ? Est ce qu’il y a des investissements à considérer pour pouvoir saisir les opportunités qui viennent de cette convergence ?

Ou est ce qu’il y a des conversations avec la société qu’on doit mener pour savoir ce que la société veut et comment on peut se préparer justement pour saisir les opportunités sans tomber dans les conséquences inattendues d’une convergence pareille.

Réglementation de la biométrie : Approches globales et questions urgentes

L’AI Now Institute a publié un recueil d’études de cas sur les approches réglementaires de la technologie de reconnaissance biométrique, les leçons tirées et les futures actions de sensibilisation

Dans un contexte de surveillance publique accrue, l’intérêt pour la réglementation des technologies biométriques telles que la reconnaissance faciale et vocale s’est considérablement accru dans le monde entier, sous l’impulsion de la recherche et de la défense des intérêts des communautés. Il se dégage de ce moment un sentiment croissant que des technologies comme la reconnaissance faciale ne sont pas inévitables, et peut-être même pas nécessaires ou utiles.

“Regulating Biometrics: Global approaches and urgent questions”, par Amba Kak, présente huit études de cas détaillées d’universitaires, avocats et experts politiques qui examinent les tentatives actuelles de réglementation des technologies biométriques et donnent un aperçu des promesses et des limites de ces approches. Dans quels domaines la réglementation est-elle capable de déterminer si et comment les technologies biométriques sont utilisées, et dans quels domaines est-elle insuffisante ? En examinant ces questions, ces auteurs experts éclairent les domaines d’engagement, de défense et de réglementation futurs.

Ces essais brossent un tableau du paysage mondial complexe de la réglementation de la biométrie, en mettant en évidence les nombreuses approches adoptées par les partisans de la biométrie, qui réclament un contrôle accru de ces technologies, ainsi que la manière dont les gouvernements ont utilisé la loi comme outil pour étendre ou consolider l’utilisation de la biométrie.

Projet de loi australien sur les services de rapprochement des identités (p.44)

Jake Goldenfein (Faculté de droit de Melbourne) et Monique Mann (Université Deakin) suivent les manœuvres institutionnelles et politiques qui ont conduit l’Australie à créer une grande base de données centralisée de reconnaissance faciale (“The Capability”) à l’usage de divers acteurs gouvernementaux. Ils examinent les échecs de la réglementation pour remettre en cause de manière significative la construction de ce système, voire pour façonner son architecture technique ou institutionnelle.

L’économie (et la pratique réglementaire) que la biométrie inspire : Une étude du projet Aadhaar (p.52)

Nayantara Ranganathan (avocate et chercheuse indépendante, Inde) explique comment le droit et la politique autour du projet indien d’identification biométrique (“Aadhaar”) ont finalement servi à construire des données biométriques comme ressource pour l’extraction de données de valeur par des entreprises privées. Elle explore comment la réglementation a été influencée par les logiques et les cultures du projet qu’elle cherchait à réglementer.

Une première tentative de réglementation des données biométriques dans l’Union européenne (p.62)

Els Kindt (KU Leuven) fournit un compte-rendu détaillé de l’approche du Règlement général sur la protection des données (RGPD) de l’Union européenne en matière de réglementation des données biométriques. Comme de nombreux pays sont sur le point de mettre en œuvre des lois nationales rédigées de manière similaire, elle identifie les lacunes potentielles et souligne les domaines clés pour la réforme.

Réflexion sur la politique biométrique du Comité international de la Croix-Rouge : Réduire au minimum les bases de données centralisées (p.70)

Ben Hayes (Agence AWO, conseiller juridique consultant auprès du Comité international de la Croix-Rouge [CICR]) et Massimo Marelli (chef du Bureau de la protection des données du CICR) expliquent le processus décisionnel du CICR pour formuler sa première politique en matière de biométrie, qui visait à éviter la création de bases de données et à minimiser les risques pour les populations vulnérables dans les contextes humanitaires.

Utilisation par la police de la reconnaissance faciale en live au Royaume-Uni (p.78)

Peter Fussey (Université d’Essex) et Daragh Murray (Université d’Essex), principaux auteurs de l’étude empirique indépendante du procès de la police métropolitaine de Londres sur la reconnaissance faciale en live (LFR-Live Facial Recognition), expliquent comment les normes juridiques et les outils de régulation existants n’ont pas réussi à empêcher la prolifération d’un système dont les effets néfastes ont été démontrés. Ils tirent ainsi des enseignements plus larges pour la réglementation de la LFR au Royaume-Uni et des technologies similaires ailleurs.

Une taxonomie des approches législatives pour la reconnaissance faciale aux États-Unis (p.86)

Jameson Spivack et Clare Garvie (Georgetown Center on Privacy and Technology) écrivent sur les dizaines de lois d’interdiction et de moratoires sur l’utilisation de la reconnaissance faciale par la police aux États-Unis, la plupart d’entre elles menées par des avocats et des organisations communautaires. Les auteurs fournissent une taxonomie détaillée qui va au-delà des grandes catégories d’interdiction et de moratoire, et réfléchissent aux leçons tirées de leur mise en œuvre.

BIPA : La plus importante loi biométrique sur la protection de la vie privée aux États-Unis ? (p.96)

Woodrow Hartzog (Northeastern University) explore les promesses et les pièges de la loi sur la confidentialité des informations biométriques (BIPA) de l’État de l’Illinois et, plus largement, du droit des particuliers à engager leurs propres actions contre des entreprises privées. Il s’interroge sur les limites inévitables d’une loi centrée sur le “consentement éclairé”, un système qui donne l’illusion d’un contrôle tout en justifiant des pratiques douteuses que les gens n’ont pas assez de temps ou de ressources pour comprendre et agir.

Réglementation biométrique ascendante : La réponse de la Communauté à l’utilisation de la surveillance faciale dans les écoles (p.104)

Stefanie Coyle (NYCLU) et Rashida Richardson (Rutgers Law School ; AI Now Institute, NYU) examinent la décision controversée d’un district scolaire de Lockport, New York, de mettre en place un système de reconnaissance faciale et d’objets pour surveiller les élèves. Elles mettent en lumière la réponse de la communauté qui a suscité un débat national et a conduit à une législation à l’échelle de l’État réglementant l’utilisation des technologies biométriques dans les écoles.

Lire le rapport complet (PDF)

Un projet de loi américain vise à interdire l’utilisation de la reconnaissance faciale par la police

Les législateurs américains ont présenté un projet de loi, The Facial Recognition and Biometric Technology Moratorium Act, qui interdirait l’utilisation de la technologie de reconnaissance faciale par les agences fédérales de maintien de l’ordre.

Plus précisément, il rendrait illégal pour toute agence fédérale ou tout fonctionnaire “d’acquérir, de posséder, d’accéder ou d’utiliser” la technologie de surveillance biométrique aux États-Unis. Il exigerait également que les services de police des États et des collectivités locales instaurent des interdictions similaires afin de pouvoir bénéficier d’un financement fédéral.

La proposition de loi est arrivée à un stade où l’utilisation de la technologie de reconnaissance faciale par la police fait l’objet d’une attention accrue dans le cadre des protestations qui ont suivi l’assassinat de George Floyd fin mai. Des études ont montré à plusieurs reprises que la technologie est moins précise pour les Noirs, et au début de cette semaine, le New York Times a rapporté qu’un homme noir innocent du Michigan avait été arrêté après avoir été mal identifié par un logiciel de reconnaissance faciale.

L’activisme fonctionne

La décision de restreindre l’utilisation de la technologie de reconnaissance faciale est en partie due à la pression exercée par les entreprises technologiques elles-mêmes, après avoir été soumises au lobbying des militants pendant des années.

Il y a deux semaines, Amazon a annoncé qu’elle imposerait un moratoire d’un an sur l’utilisation par la police de son système de reconnaissance faciale, Rekognition, après qu’IBM ait décidé de mettre fin à son système de reconnaissance faciale à usage général. Le lendemain, Microsoft a annoncé qu’il cesserait de vendre son système aux services de police jusqu’à ce que la loi fédérale réglemente la technologie.

Il appartient maintenant aux législateurs de décider s’ils peuvent obtenir un soutien suffisant pour l’adopter.

On en sait plus sur les algorithmes de Palantir

UCIPT, CNET, Fortune, MIT

Les systèmes de reconnaissance faciale sont racistes

Une étude du gouvernement américain confirme que la plupart des systèmes de reconnaissance faciale sont racistes

Près de 200 algorithmes de reconnaissance faciale – la majorité dans l’industrie – ont de moins bonnes performances sur les visages non blancs, selon une étude qui fait autorité. Les résultats saisis dans le rapport, Face Recognition Vendor Test (FRVT) Part 3 : Demographic Effects (NISTIR 8280), sont destinés à informer les décideurs politiques et à aider les développeurs de logiciels à mieux comprendre la performance de leurs algorithmes. La technologie de reconnaissance faciale a inspiré le débat public en partie en raison de la nécessité de comprendre l’effet de la démographie sur les algorithmes de reconnaissance faciale.

Ce qu’ils ont testé :

Le National Institute of Standards and Technology (NIST) des États-Unis a testé chaque algorithme sur deux des tâches les plus courantes de la reconnaissance faciale.

La première, connue sous le nom de comparaison 1 : 1 ou “one-to-one matching”, consiste à faire correspondre la photo d’une personne à une autre photo de la même personne dans une base de données. Elle est utilisée pour déverrouiller les téléphones intelligents ou vérifier les passeports, par exemple.

La seconde, appelée recherche un-à-plusieurs ou “one-to-many”, consiste à déterminer si la photo de cette personne a une correspondance avec une autre dans une base de données. Cette méthode est souvent utilisée par les services de police pour identifier des suspects dans le cadre d’une enquête.

L’agence a étudié quatre ensembles de données sur les visages actuellement utilisés dans les formalités du gouvernement américain : les photos d’identité de personnes vivant aux États-Unis, les photos des personnes qui déposent une demande d’immigration, les photos de demandes de visas et les photos de personnes traversant la frontière américaine. Au total, les ensembles de données comprenaient 18,27 millions d’images de 8,49 millions de personnes.

Pour évaluer la performance de chaque algorithme, l’équipe du NIST a mesuré les deux classes d’erreurs que le programme peut faire : les faux positifs et les faux négatifs. Un faux positif signifie que le logiciel a considéré à tort que des photos de deux personnes différentes montraient la même personne, tandis qu’un faux négatif signifie que le logiciel n’a pas réussi à faire correspondre deux photos qui, en fait, montrent la même personne.

Le NIST a partagé certains résultats importants de l’étude. Voici les principaux :

1. Pour ce qui est de la comparaison 1 : 1, la plupart des systèmes affichaient un taux de faux positifs plus élevé pour les visages asiatiques et afro-américains que pour les visages caucasiens, parfois par un facteur de 10 allant même jusqu’à 100. En d’autres termes, il y avait plus de chances de trouver une correspondance alors qu’il n’y en avait pas.

2. Cela a changé pour les algorithmes de reconnaissance développés dans les pays asiatiques, qui ont produit très peu de différence de faux positifs entre les visages asiatiques et caucasiens.

3. Les algorithmes développés aux États-Unis étaient tous systématiquement mauvais pour faire correspondre les visages asiatiques, afro-américains et amérindiens. Les Amérindiens ont subi les taux de faux positifs les plus élevés.

4. Les systèmes de correspondance un-à-plusieurs présentaient les pires taux de faux positifs pour les Afro-Américains, ce qui fait que cette population est la plus à risque d’être faussement accusée d’un crime.

On en sait plus sur les algorithmes de Palantir

Pourquoi c’est important ?

L’utilisation des systèmes de reconnaissance faciale se développe rapidement dans les domaines de la lutte contre la criminalité, du contrôle des frontières et d’autres applications dans la société. Bien que plusieurs études universitaires aient déjà démontré que les systèmes commerciaux populaires étaient biaisés en fonction de la race et du sexe, l’étude du NIST est l’évaluation la plus complète à ce jour et confirme les résultats antérieurs. Les conclusions remettent en question la nécessité de continuer à utiliser ces systèmes à une aussi grande échelle.

Prochaines étapes :

Il appartient maintenant aux décideurs politiques de trouver la meilleure façon de réglementer ces technologies. Le NIST exhorte également les développeurs de reconnaissance faciale à mener davantage de recherches sur la façon dont ces biais pourraient être atténués.

Qui a besoin de la démocratie quand on a des données ?

La transmutation posthumaniste – Critique du mercantilisme anthropotechnique

Animal politique et corps de chair, la personne humaine va-t-elle être remplacée par le transhumain génétiquement modifié, le cyborg au métacorps augmenté, l’humanoïde branché sur des réseaux d’intelligence artificielle, le mutant hybride à très longue durée ? Sommes-nous à l’aube d’une rupture anthropologique majeure provoquée par l’application mercantile des biotechnologies et des neurosciences sur l’ensemble du vivant ?

Avec l’expansion mondiale des marchés dérégulés de la naissance artificielle (FIV, PMA, GPA), des modifications corporelles profondes (transgenrisme, chirurgies de biodesign), des “objets intelligents” bioconnectés (implants de puces radio-identification) ou des médecines de dépassement de l’humain (dopage, sélection génétique, clonage), la transmutation posthumaine, largement financée par les géants de l’industrie cybernétique, sort des romans de science-fiction pour investir les corporéités singulières mais aussi les corps sociaux et politiques.

Quatorze auteurs issus de différents champs disciplinaires mènent dans cet ouvrage des réflexions critiques sur l’anthropotechnie qui bouleverse le monde de la vie.

Isabelle Barbéris (agrégée de lettres modernes), Michel Bel (philosophe), Jean-François Braunstein (philosophe), Paul Cesbron (gynécologue-obstétricien), Denis Collin (philosophe), Anne-Lise Diet (psychanalyste), Emmanuel Diet (philosophe et psychanalyste), Christian Godin (philosophe), Aude Mirkovic (juriste), Isabelle de Montmollin (philosophe), François Rastier (linguiste), Pierre-André Taguieff (philosophe et politiste), Patrick Tort (philosophe et historien des sciences), Thierry Vincent (psychiatre et psychanalyste).

L’Homme artefact : Indistinction des sexes et fabrique des enfants

Procréation médicalement assistée ouverte à toutes les femmes, gestation pour autrui légalisée dans de nombreux pays, recherches actives sur l’ectogenèse (utérus artificiel, membrane cybernétique, etc.) sont autant de preuves d’une volonté d’enfanter en désexualisant la vie sexuelle et en déréalisant le corps.

Pour en arriver à fabriquer des bébés comme des artefacts, il faut théoriser l’indistinction de la sexuation humaine. Or, la prolifération des transidentités – transsexuels, transgenres, transhumains – témoigne d’une véritable crise des appartenances sexuelles. Ni homme ni femme, et homme et femme, non-binaire, queer ou cyborg, les “transidentitaires” qui grossissent les rangs des groupes LGBTIQ entendent mettre fin à la domination du “mâle blanc hétérosexuel” par la “dénégation mythifiante des deux sexes” (Devereux).

Les conséquences biopolitiques d’une déconstruction techno-médicale ou performative de l’altérité des sexes sont multiples. Elles posent le grave problème de la naissance et de l’avenir de la personne humaine.

Entretien avec Fabien Ollier

→ Greely a exploré les implications juridiques, éthiques, et sociétales des biotechnologies émergentes dans un nouveau livre : « The end of sex and the future of human reproduction » (Harvard University Press, 2016), qui envisage un monde où la procréation ne commence plus dans la chambre à coucher, mais plutôt dans une boîte de Pétri d’une clinique médicale.

L’ère du sexe pour la reproduction touche à sa fin

Les futures armes biologiques pourraient tuer des personnes ayant un ADN spécifique

Dans le futur, nous devrons peut-être faire face à des armes biologiques qui ciblent des groupes spécifiques de personnes.

C’est ce qu’indique un nouveau rapport du Centre for the Study of Existential Risk de l’Université de Cambridge publié par The Telegraph. Les chercheurs de Cambridge affirment que les gouvernements du monde n’ont pas réussi à préparer des armes futuristes basées sur des technologies avancées comme l’intelligence artificielle et la manipulation génétique – ou même un pathogène tueur conçu pour tuer uniquement des personnes d’une race particulière.

Le rapport appelle spécifiquement à la création de groupes indépendants pour évaluer les risques de diverses technologies futures et de faire le tri parmi les protocoles déjà en place pour protéger les personnes, selon The Telegraph.

“La technologie devient de plus en plus sophistiquée à des prix de plus en plus bas, démocratisant la capacité de nuire plus rapidement et de façon plus meurtrière”, écrivent les auteurs du rapport. “Dans un cas particulièrement grave, une arme biologique pourrait être construite pour cibler un groupe ethnique spécifique en fonction de son profil génomique.”

Le rapport avertit également que l’intelligence artificielle pourrait devenir “extrêmement dommageable et potentiellement irréversible”. Des entreprises comme Google DeepMind ont mis au point des programmes d’intelligence artificielle qui montrent déjà des signes d’intuition humaine.

En fin de compte, concluent les chercheurs, nous ne pouvons pas nous permettre d’attendre que ces armes deviennent réalité, nous devons faire quelque chose pour y remédier.

The Telegraph, University of Cambridge

Pour en savoir plus sur les armes biologiques : National Academies of Sciences, Engineering, and Medicine. 2018. Biodefense in the Age of Synthetic Biology. Washington, DC: The National Academies Press. https://doi.org/10.17226/24890.

Un nouveau développement permet d’implanter des implants cérébraux de niveau supérieur

Les chercheurs révolutionnent les interfaces cerveau-ordinateur à l’aide de l’électronique au silicium

Dans le nouveau projet DARPA, les chercheurs exploitent les dernières technologies dans l’électronique au silicium pour inventer un dispositif d’interface neuronale implantable qui pourrait transformer la façon dont les systèmes artificiels améliorent les fonctions du cerveau.

Aujourd’hui, les dispositifs d’électrodes implantées pour stimuler le cerveau sont des dispositifs extrêmement grossiers avec une poignée d’électrodes qui sont utilisées pour atténuer les effets de la maladie de Parkinson, de l’épilepsie et d’autres affections neurodégénératives. Le nombre de patients avec ces dispositifs représente seulement des dizaines de milliers en raison de l’extrême invasivité du processus d’implantation et de la grande taille du dispositif implanté. L’invention d’un dispositif d’implant moins invasif avec de nombreux autres canaux qui peuvent interagir avec le cerveau entraînerait des améliorations révolutionnaires dans les interfaces cerveau-machine, y compris les interfaces directes avec le cortex auditif et le cortex visuel, en augmentant de manière spectaculaire la façon dont les systèmes artificiels peuvent prendre en charge la fonction cérébrale.

A flexible multielectrode array designed by Shepard and his team. If successful, this noninvasive device could alter the lives of people with hearing and visual impairments and neurodegenerative diseases. Credit: Ken Shepard

Grâce à une nouvelle subvention de 15,8 millions de dollars sur quatre ans de l’Agence pour les projets de recherche avancée de défense (DARPA) du département de la Défense des États-Unis (United States Department of Defense, abrégé par DoD), le professeur de Columbia Engineering, Ken Shepard, pionnier dans le développement de l’électronique qui interfère avec les systèmes biologiques, dirige une équipe pour faire exactement cela : inventez un dispositif d’interface neuronale implantable qui pourrait transformer la vie de personnes atteintes de maladies neurodégénératives ou de personnes qui ont une déficience visuelle et auditive.

“Ce sujet a attiré beaucoup d’intérêt venant du secteur privé, y compris les start-up Neuralink et Kernel”, explique Shepard, professeur de génie électrique et d’ingénierie biomédical à Columbia Engineering. “Si nous réussissons, la petite taille et l’échelle massive de cet appareil pourraient donner la possibilité pour des interfaces transformationnelles au cerveau y compris des interfaces directes avec le cortex visuel qui permettraient aux patients qui ont perdu leur vue de discriminer des modèles complexes à des résolutions sans précédent. Il s’agit d’un projet très ambitieux pour Columbia, en effet pour nous tous, et nous sommes très heureux d’aborder une question aussi difficile.”

Un implant cérébral se connectera avec 1 million de neurones

Le projet de Shepard se trouve dans le programme de R&D, Neural Engineering System Design (NESDconception de système d’ingénierie de neurones), une partie du plus grand programme de recherche du gouvernement fédéral : l’initiative BRAIN (BRAIN Initiative : Brain Research through Advancing Innovative Neurotechnologies – aussi appelé Brain Activity Map Project). NESD vise à développer une interface neuronale implantable qui peut fournir une résolution de signal sans précédent et une bande passante de transfert de données entre le cerveau et le monde numérique. L’équipe de Shepard comprend des chercheurs d’institutions de premier plan comme Baylor College of Medicine, California Institute of Technology, Duke University, New York University, Northwestern et Medtronic. À Columbia, le projet comprend Rafael Yuste (professeur de sciences biologiques et neurosciences, arts et sciences), Liam Paninski (professeur de statistique et de neurosciences, arts et sciences) et Luca Carloni (professeur d’informatique, ingénierie). L’équipe est axée sur la réalisation des objectifs NESD pour concevoir un dispositif d’interface neuronale implantable à l’échelle d’un million de canaux pour permettre l’enregistrement et la stimulation du cortex sensoriel. En outre, ils prévoient de demander l’approbation réglementaire pour commencer les expériences chez l’homme à la fin du programme de quatre ans.

Les scientifiques commencent à travailler sur l’ingénierie inverse du cerveau

“C’est un calendrier très agressif”, note Shepard. “Nous pensons que le seul moyen d’y parvenir est d’utiliser une approche tout électrique qui implique un réseau d’enregistrement de surface massif avec plus d’un million d’électrodes fabriquées comme un dispositif monolithique sur un seul circuit intégré complémentaire en oxyde de métal-semiconducteur (CMOS). Nous travaillons avec Taiwan Semiconductor Manufacturing Company comme notre partenaire de fonderie”.

Compte tenu de la complexité et de l’ampleur des interfaces requises, Shepard et son équipe croient que le degré de non-invasion requis pour l’utilisation humaine dans ce délai agressif ne peut être réalisé qu’avec des architectures d’électrodes basées sur la stimulation et l’enregistrement sur la surface du cerveau. Bien que son approche soit fondée sur la pratique clinique humaine actuelle avec des matrices d’enregistrement en surface, la grande échelle et les exigences du programme NESD nécessitent un écart dramatique par rapport aux approches électriques antérieures des interfaces cerveau. Shepard croit que l’obtention de l’échelle requise pour NESD n’est possible que si son équipe exploite toutes les fonctionnalités de la technologie de pointe CMOS, ainsi que les capacités de fabrication associées de l’industrie, et utilise l’intégration monolithique des électrodes de stimulation/enregistrement avec une plate-forme électronique CMOS sous-jacente.

Les puces implantées sont ultra-conformes à la surface du cerveau, très légères et suffisamment souples pour se déplacer avec le tissu. La puce ne pénètre pas dans le tissu cérébral et utilise l’alimentation sans fil et la télémétrie de données.En utilisant l’état de l’art dans la nanoélectronique au silicium et l’appliquant de manière inhabituelle, nous espérons avoir un impact important sur les interfaces cerveau-ordinateur”, déclare Shepard.Nous avons réuni une équipe de classe mondiale pour traduire nos efforts à des fins humaines à la fin de ce programme”.

Columbia University School of Engineering and Applied Science

* interface neuronale directe – aussi appelée IND ou BCI ou encore ICM (brain-computer interface : interface cerveau-machine, ou encore interface cerveau-ordinateur)

Étude prospective à l’horizon 2030 : impacts des transformations et ruptures technologiques sur notre environnement stratégique et de sécurité.

Pour la première fois, un document gouvernemental en matière de prospective technologique est réalisé par le secrétariat général de la défense et de la sécurité nationale (SGDSN) pour penser les défis technologiques à venir auxquels nous serons confrontés et les ruptures stratégiques qui en découleront. Il vise à proposer des pistes de réflexion à l’ensemble des acteurs de la communauté stratégique française, voire alimenter le débat public dans une période où les questions de sécurité et de défense s’imposent au cœur des préoccupations.

A vocation pédagogique, cet exercice de prospective n’exprime pas de position officielle et ne correspond pas à une quelconque doctrine, livre blanc ou politique publique. Il reflète le point de vue de chercheurs et l’état des réflexions sur un ensemble de sujets. Le choix des thématiques résulte du travail de veille technologique réalisé par le SGDSN, en relation étroite avec le monde de la recherche. Il pourra être actualisé et augmenté par l’étude ultérieure d’autres sujets.

Télécharger le PDF

Sommaire

Avant-propos
Introduction
Partie 1 : Des tendances qui se consolident
La défense antimissile balistique en 2030 : un système militaire mature au cœur des équilibres stratégiques
La démocratisation de l’accès à l’espace
Paix et guerre dans le cyberespace
La dissuasion, atout de puissance et facteur de paix
Terrorisme et menaces NRBC (nucléaire, radiologique, biologique et chimique) : vers un terrorisme technologique ?
Frontières passoires ou frontières intelligentes
Partie 2 : ruptures technologiques – ruptures stratégiques
Les missiles et vecteurs hypervéloces, nouveaux déterminants des puissances ?
Militarisation et insécurisation de l’espace
La révolution de l’impression 3D
La biologie de synthèse : un saut dans l’inconnu
Comment les neurosciences vont-elles transformer la guerre ?
La cryptographie est-elle à l’aube de la révolution quantique ?
Le champ de bataille « 3.0 » : intelligence artificielle, robots, nanotechnologies et armes à énergie dirigée sous l’uniforme


Extrait : Comment les neurosciences vont-elles transformer la guerre ?

L’impact potentiel des neurosciences sur la manière de faire la guerre est identifié et de nombreuses recherches sont en cours. Essentielles en termes de santé, ces avancées vers « l’homme augmenté » sont parfois déroutantes au plan militaire et éthique. La France et l’Europe doivent les prendre en compte pour maintenir leurs capacités de défense pour la guerre du futur, identifier les priorités afin de ne pas disperser moyens et financements et se préparer à créer les conditions d’une modération des acteurs et d’un encadrement international.

De formidables avancées susceptibles d’intéresser la défense

Les stratégies et méthodes permettant d’étudier le fonctionnement cérébral ou de modifier les capacités cognitives sont de natures très diverses, impliquant à la fois des technologies non-invasives ou invasives. Des avancées récentes en matière d’imagerie cérébrale, de techniques de neuromodulation ou d’interfaces cerveau-machine ouvrent de nouvelles perspectives à plus ou moins long terme.

Pour les forces armées, les recherches actuelles dans le domaine des neurosciences, si elles aboutissent, pourraient participer à la réalisation de plusieurs objectifs, comme :

– la préservation de la santé et de la sécurité des opérateurs militaires ;
– le maintien, voire l’amélioration de leurs performances, notamment en matière d’endurance, de capacités sensorielles, de réactivité, de productivité, de créativité ou encore de résistance au stress.

Ces applications auraient une incidence directe sur les performances individuelles et la capacité opérationnelle.

Parmi les axes de recherche qui suscitent également un intérêt – et soulèvent autant d’enjeux éthiques et sociétaux – figurent l’exploitation des connaissances et technologies relevant des neurosciences, en particulier des techniques d’imagerie cérébrale fonctionnelle, en vue d’évaluer la véracité des informations obtenues lors d’un interrogatoire ou même de déterminer le degré de responsabilité d’un individu, notamment dans le cadre d’expertises judiciaires ou dans le domaine du renseignement.

L’Homme augmenté, réflexions sociologiques pour le militaire
Éthique sur le champ de bataille dans un futur proche
Augmentation des performances humaines avec les nouvelles technologies : Quelles implications pour la défense et la sécurité ?

Les applications potentielles des neurosciences pour les forces armées, dont certaines restent à l’heure actuelle très hypothétiques, comprennent :

– le suivi médical individuel des combattants, par exemple la surveillance de l’évolution de la vigilance ou du niveau de stress ;
– la prise en charge médico-psychologique, avec notamment la possibilité de restaurer une fonction après une atteinte à l’intégrité physique, voire psychique (commande de dispositif prothétique, perception de sensations recréées, restauration des souvenirs, etc.) ;
– l’amélioration de la formation et de l’entraînement, y compris en cas de stress ;
– l’amélioration des performances physiques et sensorielles des combattants ;
– le guidage à distance de systèmes d’armes, tels que des robots, des drones ou un exosquelette, par une interface cerveau-machine ;
– l’amélioration des performances cognitives des opérateurs et des combattants, en particulier dans un environnement complexe et avec des sollicitations multiples ;
– l’obtention et l’évaluation d’informations à des fins de renseignement ;
– la mise en réseau de capacités cérébrales afin de pouvoir combiner des compétences individuelles.

Le nouvel exosquelette des Forces Spéciales « Iron Man » arrête les balles avec une armure liquide
Robotisation des armées : « Il y a un début de fuite en avant dans certains pays »
Réalité augmentée pour les forces armées
Le nouveau programme de la DARPA envisage de stimuler vos nerfs pour l’auto-guérison

S’ils se concrétisent, certains développements pourraient être à l’origine de profonds bouleversements dans les prochaines décennies, sans qu’il ne soit encore possible de déterminer toutes les conséquences au niveau individuel, sociétal ou international. En effet, outre la restauration des capacités, il devient désormais envisageable de pouvoir altérer de façon ciblée des fonctions cognitives telles que la mémorisation ou le processus de prise de décision, en les améliorant ou en les dégradant, voire peut-être un jour de modifier ou créer des souvenirs ou encore d’accéder aux pensées d’un individu. Ces évolutions imposent d’engager une réflexion approfondie sur les questions éthiques, sociétales, juridiques et médicales afférentes, en fonction des applications, qu’elles soient civiles ou militaires, et du contexte d’emploi. Elles soulèvent des questions quant aux conséquences en termes de dignité humaine et de respect de la vie privée, mais aussi de risques d’atteinte à l’identité personnelle et à l’autonomie. En interférant avec les fonctions cognitives, ces avancées s’accompagnent ainsi d’une possible remise en cause des notions de libre arbitre ou de responsabilité individuelle, telles qu’elles sont traditionnellement appréhendées. Enfin, il convient de considérer les risques de détournement à des fins malveillantes.

Les scientifiques ont repéré le circuit cérébral qui pourrait aider à effacer la peur
Interfaces cerveau-ordinateur : des fonds militaires pour contrôler les sentiments
Une manipulation de neurones spécifiques aide à effacer les mauvais souvenirs et améliorer les bons
José Delgado et ses dispositifs de contrôle de l’esprit par la stimulation électrique du cerveau

Au-delà de l’état actuel des connaissances sur le cerveau et son fonctionnement, la complexité de la problématique est aussi liée à l’interdépendance fonctionnelle avec l’environnement physique et social. Que la modification soit recherchée ou secondaire, il peut y avoir atteinte à l’intégrité physique ou psychique des individus. Sans même chercher à dégrader certaines capacités, il existe un risque que l’amélioration de fonctions cognitives spécifiques se fasse au détriment d’autres. La question de la réversibilité des effets doit également être posée. Il faut de plus considérer la problématique de l’acceptabilité individuelle mais aussi sociétale.

La sécurité des équipements médicaux implantables fait déjà partie des préoccupations majeures pour les acteurs du secteur de la santé. En plus des risques de dysfonctionnement, la vulnérabilité aux cyber-attaques de certains systèmes représente donc une crainte légitime, en particulier s’agissant de ceux qui sont connectés et reçoivent et/ou transmettent des flux de données à distance, et ce d’autant plus s’ils sont invasifs. En prenant pour exemple les travaux de recherche en cours portant sur le développement d’un implant neuronal qui pourrait remplacer les dispositifs externes de réalité virtuelle, des informations altérées pourraient par exemple être transmises directement au niveau du cortex visuel.

A l’horizon 2030, un soutien financier substantiel à des programmes de recherche innovants aura permis d’obtenir des résultats concrets, avec une transition réussie de la recherche fondamentale à des applications concrètes de façon générale mais aussi a posteriori dans les forces armées. Dans le même temps, les recherches relevant des neurosciences bénéficieront des approches collaboratives et interdisciplinaires, permettant la levée de verrous technologiques. « L’homme augmenté » sera en passe de devenir une réalité.

Les États-Unis, comme la Chine, auront investi massivement dans ce domaine. Malgré de fortes réticences au sein de la société civile et d’organisations non gouvernementales, voire du Comité international de la Croix-rouge, certains systèmes innovants seront déployés et opérationnels au sein des forces armées américaines et vraisemblablement, de façon plus limitée, de celles d’autres pays comme la Chine, de la Russie ou Israël. A ce stade, il s’agira principalement :

– d’implants destinés à augmenter l’acuité visuelle ou auditive ;
– de dispositifs d’électrostimulation cérébrale pour les opérateurs exerçant en environnement complexe ;
– d’interfaces cerveau-machine permettant soit d’utiliser des exosquelettes afin d’augmenter les capacités locomotrices, soit de piloter des drones ou des robots pour le déminage des engins explosifs improvisés (IED) ;
– d’outils d’aide aux interrogatoires à des fins de renseignement.