Chan-Zuckerberg : étude d’un dispositif cérébral implantable

Un groupe de chercheurs financés par Mark Zuckerberg teste des dispositifs cérébraux implantables dans le cadre d’une recherche de 5 milliards de dollars pour mettre fin à la maladie

Mark Zuckerberg a vendu près de 30 millions d’actions de Facebook pour financer un projet de recherche biomédicale ambitieux, baptisé Initiative Chan Zuckerberg, qui vise à guérir toutes les maladies en une génération.

Une initiative moins médiatisée liée au programme de 5 milliards de dollars comprend des travaux sur les interfaces cerveau-machine, des dispositifs qui traduisent essentiellement des pensées en commandes. Le projet récent est un implant cérébral sans fil capable d’enregistrer, de stimuler et d’interrompre les mouvements d’un singe en temps réel.

Dans un article publié dans la revue scientifique Nature, les chercheurs détaillent un dispositif cérébral sans fil implanté chez un primate qui enregistre, stimule et modifie son activité cérébrale en temps réel, en détectant un mouvement normal et en l’arrêtant immédiatement. L’un de ces chercheurs est un chercheur du Chan Zuckerberg Biohub, un groupe de recherche médicale à but non lucratif lié à l’Initiative Chan Zuckerberg.

Les scientifiques qualifient cette interférence de “thérapie”, car elle est conçue pour traiter des maladies telles que l’épilepsie ou la maladie de Parkinson en arrêtant une crise ou tout autre mouvement perturbateur dès le début.

“Notre appareil est capable de surveiller le cerveau pendant qu’il fournit la thérapie, alors vous savez exactement ce qui se passe”, a déclaré à Business Insider Rikky Muller, co-auteur de la nouvelle étude. Professeur d’informatique et d’ingénierie à l’Université de Berkeley, Muller est également un chercheur chez CZ Biohub.

Les applications des interfaces cerveau-machine ont une portée considérable : alors que certains chercheurs s’attachent à les utiliser pour aider les personnes souffrant de lésions de la colonne vertébrale ou d’autres maladies qui affectent les mouvements, d’autres cherchent à les voir transformer la façon dont tout le monde interagit avec les ordinateurs portables et les smartphones. Une division de Facebook, anciennement appelée Building 8, ainsi qu’une entreprise fondée par Elon Musk, appelée Neuralink, ont toutes deux déclaré qu’elles travaillaient sur cette dernière.

Muller a déclaré que ses recherches au Biohub étaient isolées des autres travaux sur les interfaces cerveau-ordinateur effectués par Facebook.

Le programme notoirement secret de l’entreprise, Building 8, a récemment subi un remaniement comprenant la suppression de l’étiquette de Building 8 et le transfert de ses projets expérimentaux vers de nouvelles divisions. Plus tôt cette année, Business Insider avait exclusivement indiqué que le directeur du programme avait aidé à créer un dispositif qui transformait les mots en vibrations compréhensibles.

Un appareil cérébral qui change automatiquement le comportement

Dans le document de Muller, elle et une équipe de chercheurs de Berkeley et une start-up spécialisée dans les appareils médicaux, Cortera, ont expliqué comment ils utilisaient un appareil appelé “WAND” (Wireless Artifact-free Neuromodulation device) pour empêcher un singe d’adopter un comportement bien enseigné. Dans ce cas, le comportement impliquait de déplacer un curseur sur une cible sur un écran à l’aide d’un joystick et de la maintenir là pendant une période de temps définie.

Nature Biomedical Engineering / Chan-Zuckerberg Biohub

Placé au-dessus de la tête du singe, le dispositif de neuromodulation WAND est connecté directement à son cerveau. À partir de là, il était capable d’enregistrer, de stimuler et de modifier le comportement du singe en temps réel.

WAND pouvait “sentir” quand le primat allait bouger le joystick et arrêter ce mouvement avec un signal électrique ciblé envoyé à la partie droite de son cerveau, a déclaré Muller. Et comme la machine était sans fil, le singe n’avait pas besoin d’être confiné physiquement ou attaché à quoi que ce soit pour fonctionner.

“Cet appareil change la donne en ce sens que vous pouvez avoir un sujet totalement libre de ses mouvements et qu’il “sait” de manière autonome ou automatique quand et comment interrompre ses mouvements”, a déclaré Muller.

WAND pourrait un jour avoir des applications pour une gamme de maladies qui affectent le mouvement (également appelées motricité), y compris les blessures à la colonne vertébrale et l’épilepsie.

“Actuellement, nous pouvons prendre une fonction motrice spécifique, sentir que cela se produit et l’interrompre”, a déclaré Muller.

Il s’agit d’un bon début par rapport aux appareils actuels, qui nécessitent généralement plusieurs équipements volumineux et qui ne peuvent seulement que détecter les mouvements ou les interrompre à un moment donné. L’appareil de Muller fait les deux à la fois. Pour ce faire, il utilise 128 électrodes, ou conducteurs, placés directement dans le cerveau du primate – environ 31 fois plus d’électrodes que les dispositifs cerveau-ordinateur actuels destinés aux humains, limités à 4 à 8 électrodes.

“Je pense que cet appareil ouvre des possibilités pour de nouveaux types de traitements”, a déclaré Muller.

Muller est également cofondateur et président du conseil d’administration de Cortera, qui a reçu une subvention de la DARPA et du NIH – National Institutes of Health. Ses travaux sur les interfaces cerveau-machine ne sont qu’un élément d’un ensemble plus vaste de projets sous l’égide de CZ Biohub.

Joe DeRisi, coprésident du Biohub et professeur de biophysique à UCSF, a déclaré à Business Insider que cette initiative visait à renforcer les projets de recherche menés par les scientifiques locaux, à construire d’importants dispositifs médicaux qui n’existeraient pas autrement, et “repousser les limites”.

Business Insider

Un réseau de neurones connecté à un cerveau humain

À l’avenir, certains chercheurs espèrent que les personnes qui perdent l’utilisation de leurs membres pourront contrôler des prothèses robotiques à l’aide d’interfaces cerveau-ordinateur.

Le problème est que les signaux cérébraux sont difficiles à décoder, ce qui signifie que les interfaces cerveau-ordinateur existantes qui contrôlent les membres robotiques sont souvent lentes ou maladroites. Mais cela pourrait changer.

Une équipe de médecins et de neuroscientifiques a publié un article dans la revue Nature Medicine sur une interface cerveau-ordinateur utilisant un réseau de neurones pour décoder les signaux cérébraux en mouvements précis à l’aide d’un bras robotique réaliste et contrôlé par l’esprit.

Interfaces cerveau-ordinateur : des fonds militaires pour contrôler les sentiments

Décodeur de cerveau

Les chercheurs ont pris les données d’un homme tétraplégique âgé de 27 ans à qui on avait implanté un réseau de microélectrodes dans son cerveau et ils les ont introduites dans une série de réseaux de neurones, qui sont des systèmes d’intelligence artificielle calqués sur les circuits de notre cerveau et qui excellent pour trouver des modèles dans de grands ensembles d’informations.

Après près de deux ans et demi d’entraînement, les réseaux de neurones ont permis d’identifier les signaux cérébraux liés à des commandes musculaires spécifiques et de savoir comment les transmettre au membre robotique.

Non seulement le réseau neuronal a-t-il permis au patient de déplacer le bras robotique avec une meilleure précision et moins de retard que les systèmes existants, mais il a même été meilleur lorsque les chercheurs l’ont laissé s’entraîner lui-même. En d’autres termes, le réseau neuronal a pu apprendre par lui-même quels signaux du cerveau correspondaient aux mouvements des bras de manière plus efficace sans aucune indication des chercheurs.

Grâce au réseau neuronal, le volontaire participant à l’expérience a pu saisir et manipuler trois petits objets avec la main robotique – une capacité facile à prendre pour acquise mais qui échappe souvent à ceux qui dépendent de prothèses pour naviguer dans la vie quotidienne.

MedicalXpress

L’intelligence artificielle pourrait détourner les interfaces cerveau-machine

Qui a besoin de la démocratie quand on a des données ?

Comment la Chine gouverne grâce aux données, à l’intelligence artificielle et à la surveillance Web.

En 1955, l’auteur de science-fiction Isaac Asimov a publié une nouvelle sur la « démocratie électronique », où un seul citoyen, choisi pour représenter une population entière, répondait aux questions générées par un ordinateur nommé Multivac. La machine recueillait ces données et calculait les résultats d’une élection qui, conséquemment, n’avait plus besoin d’avoir lieu. L’histoire d’Asimov se déroule à Bloomington, en Indiana, mais aujourd’hui, une machine semblable à Multivac est en construction en Chine.

Dans tout régime autoritaire, « le problème fondamental réside dans le fait que le centre ne comprend pas ce qui se passe aux niveaux inférieurs ni dans l’ensemble de la société », affirme Deborah Seligsohn, politologue et spécialiste de la politique chinoise à la Villanova University à Philadelphie. Comment peut-on gouverner efficacement un pays abritant un cinquième de la population planétaire et doté d’une économie et d’une société complexes si aucun débat public, aucun activisme civil ni aucune rétroaction ne sont permis ?

Comment recueille-t-on suffisamment de renseignements pour vraiment prendre des décisions ? Et comment un gouvernement qui n’invite pas ses citoyens à participer au débat peut-il encore susciter la confiance et modifier le comportement du public sans ingérence policière ?

Hu Jintao, leader de la Chine de 2002 à 2012, a tenté de régler ces problèmes en permettant un modeste dégel démocratique, où le peuple avait la possibilité de présenter ses griefs à la classe dirigeante. Son successeur, Xi Jinping, a inversé cette tendance. Sa stratégie pour comprendre et réagir à ce qui se passe chez une nation de 1,4 billion de citoyens repose plutôt sur une combinaison de surveillance, d’intelligence artificielle et de mégadonnées pour surveiller leur vie et leur comportement dans les moindres détails.

Cybersouveraineté 

Les deux dernières années dans les démocraties du monde ont été tumultueuses, ce qui a aidé l’élite politique chinoise à se sentir de plus en plus justifier de faire taire les électeurs. Des évènements comme l’élection de Donald Trump, le Brexit, la montée de parties de l’extrême droite en Europe et le règne de terreur de Rodrigo Duterte aux Philippines ont mis en évidence ce que les critiques voient comme un problème propre à la démocratie, plus particulièrement le populisme, l’instabilité et le leadership dangereusement personnalisé.

Depuis qu’il est devenu secrétaire général du Parti communiste chinois en 2012, Xi a établi de nombreux plans ambitieux pour le pays, dont bon nombre sont enracinés dans la technologie — y compris l’objectif de devenir le leader mondial en intelligence artificielle d’ici 2030. Xi revendique une « cybersouveraineté » pour améliorer la censure et exercer un contrôle total sur l’Internet dans les foyers. En mai, il a déclaré lors d’une réunion de l’académie chinoise des sciences que la technologie était la clé pour atteindre « l’objectif ultime d’édification d’une nation socialiste et modernisée ».

En janvier, lorsqu’il s’est adressé à la nation via la télévision, on pouvait voir dans les étagères de sa bibliothèque des classiques comme ceux de Das Kapital et de nouveaux ajouts, notamment deux ouvrages sur l’intelligence artificielle : The Master Algorithm de Pedro Domingos et Augmented: Life in the Smart Lane de Brett King.

La Chine, prochaine superpuissance de l’intelligence artificielle?

« Aucun gouvernement n’a un plan plus ambitieux et de plus grande envergure que le gouvernement chinois pour exploiter le pouvoir des données afin de changer la façon dont il gouverne », affirme Martin Chorzempa de la Peterson Institute for International Economics de Washington, DC. Même certains observateurs étrangers, observant de loin, pourraient bien se demander si une telle gouvernance axée sur les données n’offre pas une solution viable au modèle électoral, qui semble de plus en plus dysfonctionnel. Mais se fier indûment à la sagesse de la technologie et des données comporte des risques.

Des données plutôt qu’un dialogue

Les leaders chinois ont depuis longtemps voulu exploiter l’opinion publique sans ouvrir la porte des débats houleux et à des critiques à l’égard des autorités. Pendant la plus grande partie de l’histoire de la Chine impériale et moderne, des citoyens mécontents provenant du milieu rural ont fait le voyage jusqu’à Pékin et ont organisé des manifestations en tant que « requérants » publics. Ils croyaient que si les autorités locales ne comprenaient pas ou ignoraient leurs griefs, l’empereur pourrait faire preuve d’un meilleur jugement.

Sous l’autorité de Hu Jintao, certains membres du Parti communiste ont vu cette ouverture limitée comme une façon d’exposer et de résoudre certains types de problèmes. Blogueurs, journalistes anti-corruption, avocats des droits de la personne et critiques en ligne mettant en lumière la corruption locale ont suscité un débat public vers la fin du règne de Hu. Selon un ancien officier américain au courant de l’affaire, Xi a, au début de son mandat, été informé quotidiennement des préoccupations du public et des perturbations des médias sociaux. Au cours des dernières années, des requérants se sont amenés dans la capitale pour attirer l’attention sur des scandales comme la saisie illégale de propriétés par les autorités locales et le lait en poudre contaminé.

Mais la police empêche de plus en plus les requérants d’atteindre Pékin. « Il faut maintenant présenter des pièces d’identité nationale pour acheter des billets de trains, ce qui permet aux autorités d’identifier plus facilement les « trouble-fêtes » potentiels comme ceux qui ont protesté contre le gouvernement dans le passé », explique Maya Wang, chercheuse principale de la Chine chez Human Rights Watch.

« Plusieurs requérants nous ont affirmé avoir été arrêtés dans des gares. » Des blogueurs, activistes et avocats sont aussi systématiquement réduits au silence ou emprisonnés, comme si les données pouvaient donner au gouvernement les mêmes renseignements sans les problèmes épineux de la liberté.

L’idée d’utiliser la technologie en réseau en tant qu’outil de gouvernance en Chine remonte au moins au milieu des années 80. Comme l’explique l’historien Julian Gewirtz de la Harvard University, « Quand le gouvernement chinois a vu que les technologies de l’information devenaient partie prenante du quotidien, il a compris qu’il aurait un nouvel outil puissant pour à la fois recueillir de l’information et contrôler la culture et pour rendre le peuple chinois plus « moderne » et plus « gouvernable » — éternelle obsession du leadership. » Par la suite, les avancées technologiques dans le domaine de l’intelligence artificielle et l’amélioration des processeurs ont rapproché cette vision de la réalité.

Pour autant que nous le sachions, il n’existe pas de schéma directeur unique liant technologie et gouvernance en Chine. Mais il existe plusieurs initiatives qui partagent une stratégie commune de collecte de données sur les personnes et les entreprises pour éclairer la prise de décision et créer des systèmes d’incitations et de sanctions pour influencer les comportements.

Ces initiatives comprennent le « système de crédit social » de 2014 du Conseil d’État, la loi de 2016 sur la cybersécurité, diverses expériences sur le plan local et corporatif en matière de « crédit social », des plans de « villes intelligentes » et des politiques axées sur la technologie dans la région occidentale du Xinjiang. Il s’agit généralement de partenariats entre le gouvernement et les sociétés technologiques de Chine.

L’initiative la plus ambitieuse est le système de crédit social, bien qu’une meilleure traduction en français soit un système de « confiance » ou de « réputation ». Le plan du gouvernement, qui couvre population et entreprises, énumère parmi ses objectifs la « construction d’une transparence dans les affaires gouvernementales, une sincérité commerciale et une crédibilité judiciaire. » (Tout le monde en Chine a une tante qui s’est fait escroquer. Il existe un réel besoin de s’attaquer à l’effondrement de la confiance du public », affirme Paul Triolo, responsable de la géotechnologie chez Eurasia Group.) À ce jour, il s’agit d’un travail en cours, bien que plusieurs projets-pilotes donnent un aperçu de son fonctionnement en 2020, date où l’initiative devrait être entièrement implantée.

Les listes noires représentent le premier outil du système. Au cours des cinq dernières années, le système judiciaire chinois a publié le nom des personnes qui n’avaient pas payé leurs amendes ou ne s’étaient pas conformées à un jugement. Aux termes de nouveaux règlements sur le crédit social, cette liste a été communiquée à diverses entreprises et agences gouvernementales. Les personnes figurant sur la liste se sont vues refuser des emprunts, la réservation de vols aériens et de séjours dans des hôtels luxueux.

Les sociétés de transport national de la Chine ont créé d’autres listes noires pour punir certains usagers qui, entre autres, bloquent des portes ou se bagarrent durant un trajet. Les contrevenants ne peuvent plus acheter de billets pendant une période de six à douze mois. Plus tôt cette année, Pékin a lancé une série de listes noires pour empêcher les entreprises « malhonnêtes » de se voir attribuer de futurs contrats du gouvernement ou des concessions de terres.

Quelques gouvernements locaux ont testé le « pointage » du crédit social, bien qu’il ne soit pas certain que ce système fera partie du plan national. La ville de Rongcheng, dans le nord du pays, par exemple, attribue un pointage à chacun de ses 740 000 habitants, selon Foreign Policy. Tout le monde commence avec 1 000 points. Si vous faites un don à un organisme de charité ou vous recevez un prix du gouvernement, vous gagnez des points, si vous enfreignez le code de la route, par exemple en conduisant en état d’ébriété ou en accélérant à un passage piétonnier, vous perdez des points.

Les citoyens avec un bon pointage peuvent obtenir des rabais sur des fournitures de chauffage ou obtenir de meilleures modalités hypothécaires. Ceux ayant un mauvais pointage peuvent perdre leur accès à des prêts bancaires ou à une promotion s’ils ont un emploi auprès du gouvernement. La mairie met des affiches de modèles à suivre, qui ont fait preuve de « vertu » et gagné le plus de points.

« L’idée du crédit social est de surveiller et de gérer le comportement des gens et des institutions », explique Samantha Hoffman de la Mercator Institute for China Studies à Berlin. « Dès qu’une violation est inscrite dans une partie du système, elle peut déclencher une réaction dans d’autres parties du système. Il s’agit d’un concept conçu pour favoriser le développement économique et la gestion sociale, c’est fondamentalement politique. »

Certains systèmes similaires à l’avant-projet de la Chine existent déjà aux États-Unis : une mauvaise cote de crédit peut vous empêcher d’obtenir une hypothèque et une condamnation pour délit grave suspend ou annule votre droit de vote. « Mais ces systèmes ne sont pas tous reliés de la même façon. Il n’y a pas de plan global », souligne Hoffman.

La police chinoise ajoute des lunettes de reconnaissance faciale à leur arsenal de surveillance

L’une des plus grandes inquiétudes entoure le fait que la Chine n’a pas de système judiciaire indépendant, les citoyens n’ont aucun recours pour contester des allégations fausses ou inexactes. Certaines personnes ont vu leur nom ajouté à la liste noire des transports sans préavis après la décision d’un tribunal. Des requérants et des journalistes d’investigation sont surveillés en fonction d’un autre système, et les personnes qui participent à des programmes de désintoxication sont surveillées par un autre système de surveillance.

« En théorie, les bases de données sur les toxicomanes sont censées effacer le nom de ces personnes après cinq ou sept ans, pour la plupart des cas, ce n’est pas fait », affirme Wang de Human Rights Watch. « C’est extrêmement difficile de faire retirer votre nom de ces listes. »

D’occasionnels éclats de rage en ligne traduisent le ressentiment du public. La nouvelle qu’un étudiant s’était vu refuser son admission par un collège parce que le nom de son père figurait sur une liste noire de crédit a récemment enflammé le Net. La décision du collège n’a pas été officiellement sanctionnée ni ordonnée par le gouvernement. Plutôt, dans leur effort pour appuyer ces nouvelles politiques, les administrateurs de l’école les ont simplement interprétés de la façon qu’ils estimaient logique.

L’opacité du système rend difficile l’évaluation de l’efficacité des tests comme ceux de Rongcheng. Depuis 2012, le parti a écrasé presque toutes les voix critiques, et les risques de contester le système, même de façon relativement modeste, se sont accrus. Les informations disponibles sont profondément erronées; la falsification systématique de toutes les données, de la croissance du PIB à l’utilisation de l’hydroélectricité, est omniprésente dans les statistiques du gouvernement chinois. Borge Bakken, chercheur à la Australian National University, estime que les chiffres officiels de la criminalité, que le gouvernement a clairement intérêt à minimiser, peuvent ne représenter que 2,5 % de tous les comportements criminels.

En théorie, la gouvernance axée sur les données pourrait aider à résoudre ces problèmes – en contournant les distorsions pour permettre au gouvernement central de recueillir directement les renseignements. C’est l’idée derrière, par exemple, l’introduction des dispositifs de surveillance de la qualité de l’air qui envoient des données aux autorités centrales plutôt que de se fier aux fonctionnaires locaux qui pourraient être de mèche avec les industries polluantes. Mais plusieurs aspects d’une bonne gouvernance sont trop complexes pour permettre ce genre de suivi direct et se fient plutôt aux données saisies par ces mêmes fonctionnaires locaux.

Cependant, le gouvernement chinois publie rarement les données sur le rendement que des étrangers pourraient utiliser pour évaluer ces systèmes. Prenons par exemple les caméras qui sont utilisées pour identifier et humilier des piétons dans certaines villes en projetant l’image de leur visage sur des panneaux d’affichage public, de même que pour suivre les habitudes de prière des musulmans en Chine occidentale. Leur précision soulève des questions : plus particulièrement, comment un logiciel de reconnaissance faciale programmé à reconnaître des visages chinois Han peut-il reconnaître avec justesse le visage d’une personne d’une minorité ethnique de l’Eurasie ?

En outre, même si les données collectées sont exactes, comment le gouvernement utilisera-t-il cette information pour orienter ou empêcher un certain comportement futur ? Les algorithmes de la police qui prédisent qui deviendra possiblement un criminel ne sont pas soumis à l’examen du public, pas plus que les statistiques qui démontreraient si un certain type de crime ou le terrorisme est en hausse ou en baisse. (Par exemple, dans la région occidentale du Xinjiang, les renseignements disponibles démontrent que le nombre de personnes placées en garde à vue par la police a considérablement augmenté, soit de 731 % entre 2016 et 2017.)

In the city of Xiangyang, cameras linked to face-recognition technology project photos of jaywalkers, with names and ID numbers, on a billboard.
Credit: TechnologyReview

« Ce n’est pas la technologie qui a créé les politiques, mais elle accroît grandement la quantité de données que le gouvernement chinois peut recueillir sur ses citoyens », déclare Richard McGregor, agrégé supérieur à Lowy Institute et auteur de l’ouvrage The Party: The Secret World of China’s Communist Rulers. « L’Internet en Chine agit comme une agence de renseignement numérique privée en temps réel. »

Politiques algorithmiques

Dans un article paru dans le Washington Post plus tôt cette année, Xiao Qiang, professeur de communications à la University of California, à Berkeley, a qualifié la gouvernance améliorée par les données de la Chine d’« État totalitaire numérique ». Les aspects dystopiques sont plus évidents dans l’ouest de la Chine.

Xinjiang (le « nouveau territoire ») est le foyer traditionnel d’une minorité musulmane connue sous le nom d’Ouïgours. Comme de nombreux migrants chinois Han s’y sont installés, certains disent « colonisés », les possibilités de travail et les occasions religieuses offertes à la population locale ouïghoure ont diminué, ce qui a entraîné une recrudescence de la violence dans laquelle Han et les Ouïghours ont été pris pour cible, y compris l’émeute de 2009 dans la capitale de Urumqi, où 200 personnes ont trouvé la mort.

La réaction du gouvernement à l’intensification des tensions n’a pas été de tenir des forums de discussion pour solliciter l’avis du public ou des conseils stratégiques, l’État choisit plutôt d’avoir recours à la collecte de données et les algorithmes pour déterminer qui est «susceptible» de commettre dans le futur des actes de violence ou de défiance.

Le gouvernement du Xinjiang a fait appel à une société privée pour concevoir des algorithmes prédictifs qui évaluent divers réseaux de données. Il n’existe aucun registre public ni aucune imputabilité à l’égard de la façon dont ces calculs sont déterminés ou pondérés. « Les personnes dont la vie est régie par ce système ne savent généralement pas quelles en sont les règles », affirme Rian Thum, anthropologue à la Loyola University qui étudie le Xinjiang et qui a vu les avis d’appel d’offres du gouvernement qui ont été émis dans le cadre de la conception du système.

Des projets Chinois à la Minority Report utiliseront l’IA pour prédire des crimes

Dans la ville de Kashgar, à l’ouest du pays, bon nombre de maisons et de boutiques sises sur les rues principales sont désormais murées et les parcs publics sont vides. Lors de ma visite en 2013, il était évident que Kashgar était déjà une ville marquée par la ségrégation — les populations han et ouïgoure vivaient et travaillaient chacun dans des quartiers distincts de la ville.

Mais le soir, c’était aussi un endroit vivant et parfois bruyant, où l’appel à la prière se mêlait à la musique des bars locaux et aux conversations des vieillards assis dans des chaises en plastique sur les terrasses. Aujourd’hui, la ville est étrangement silencieuse; la vie de quartier n’existe quasiment plus. Emily Feng, journaliste pour le Financial Times, a visité Kashgar en juin et a affiché des photos sur Twitter de ces rues nouvellement fantômes.

La raison est que, selon certaines estimations, plus d’un adulte ouïghour et kazakh sur dix dans le Xinjiang a été envoyé dans des « camps de rééducation » aux anneaux barbelés – et ceux qui restent en liberté ont peur.

Dans les deux dernières années, des milliers de points de contrôle ont été mis en place où les passants doivent présenter leur visage et leur carte d’identité nationale pour emprunter l’autoroute, entrer dans une mosquée ou encore visiter un centre commercial. Les Ouïghours sont tenus d’installer des applications de surveillance conçues par le gouvernement sur leur téléphone intelligent, lesquelles surveillent leurs contacts en ligne et les pages Web qu’ils visitent.

Les policiers se rendent régulièrement dans les maisons pour collecter d’autres données notamment sur le nombre de personnes qui vivent dans le ménage, leurs relations avec leurs voisins, le nombre de fois où les gens prient quotidiennement, s’ils ont voyagé à l’étranger et quels livres ils possèdent.

Tous ces flux de données alimentent le système de sécurité publique du Xinjiang, de même que d’autres registres comprenant des renseignements sur tout, de l’historique bancaire à la planification familiale. « Le programme informatique regroupe toutes les données provenant de ces différentes sources et signale celles qui pourraient devenir une « menace » pour les autorités », explique Wang.

Bien que l’algorithme précis soit inconnu, on pense qu’il peut signaler des comportements tels que visiter une mosquée particulière, posséder beaucoup de livres, acheter une grande quantité d’essence ou recevoir des appels ou courriels provenant de l’étranger. Les personnes qui sont signalées reçoivent la visite de la police, qui peut les placer en garde à vue et les mettre en prison ou encore dans des camps de rééducation sans aucune accusation formelle.

Adrian Zenz, politologue à la European School of Culture and Theology à Korntal, en Allemagne, estime que le taux d’internement des minorités dans le Xinjiang pourrait atteindre 11,5 % de la population adulte. Ces camps sont conçus pour instiller le patriotisme et faire renier les croyances religieuses des internés. (De nouveaux avis d’appel d’offres pour des gardiens de sécurité dans les crématoires semblent indiquer que le gouvernement essaye d’éradiquer les pratiques d’inhumation musulmanes traditionnelles dans la région.)

Alors que le Xinjiang représente un extrême draconien, ailleurs en Chine, les citoyens commencent à repousser certains types de surveillance. Une société Internet qui diffusait en continu des images de télévision en circuit fermé en ligne a mis fin à ces émissions à la suite d’un tollé général. La ville de Shanghai a récemment publié des règlements pour permettre aux gens de contester les renseignements inexacts utilisés pour compiler les dossiers de crédit social.

« Les demandes de protection de la vie privée de la part des internautes chinois sont de plus en plus nombreuses », affirme Samm Sacks, chercheur principal au Programme de la politique technologique du SCRS à New York. « Ce n’est pas tout à fait la liberté d’expression qu’elle est censée être. »

MIT Technology Review

Transhumanisme : quel avenir pour l’humanité ?

De ses débuts confidentiels dans la Californie des années 1990 à la profusion d’articles, de livres et de débats, le transhumanisme suscite rejets radicaux ou adhésions extrêmes, de F. Fukuyama le qualifiant d’« idée la plus dangereuse du monde » à ceux qui décrivent ses opposants en « chimpanzés du futur ». Car le transhumanisme, qui entend augmenter les capacités physiques et mentales de l’être humain, allonger considérablement sa durée de vie, n’est pas une simple confiance dans le progrès technologique. Il porte une utopie : le dépassement de la condition humaine.

Étant donnée la place croissante qu’il occupe dans le débat public, une synthèse, accessible à tous et qui fasse le point sans parti pris, s’impose. De l’apparition de l’idée à sa structuration dans le temps, des figures fondatrices aux acteurs d’aujourd’hui, cet ouvrage présente les idées centrales de la pensée transhumaniste, les arguments pro- et anti-, pour permettre au lecteur de se forger son propre avis et prendre part au débat.

Franck Damour est agrégé d’histoire, chercheur associé à ETHICS EA-7446 et membre de la chaire Éthique et Transhumanisme à l’Université Catholique de Lille. Il codirige la revue Nunc.

David Doat est docteur en philosophie, maître de conférences à ETHICS EA-7446 et titulaire de la chaire éthique et Transhumanisme à l’Université Catholique de Lille.

Introduction

Depuis une dizaine d’années, le transhumanisme alimente des espoirs, des craintes et de très nombreux débats des deux côtés de l’Atlantique. Ce courant d’idées entend promouvoir l’usage des sciences et des techniques en vue d’améliorer et augmenter les capacités physiques et mentales des êtres humains, de prolonger considérablement la durée de vie, bref de libérer l’homme des limites de sa condition. Le transhumanisme défend des projets parfois sidérant d’audace, comme prolonger la vie de plusieurs siècles, coloniser l’espace, doter l’homme de capacités sensorielles et cognitives bien au-delà de sa condition actuelle ou encore contrôler son état psychologique par un dopage permanent.

Ces promesses ne constituent pas une simple confiance dans le progrès technologique. Souvent, le transhumanisme est perçu comme une spéculation sur le développement technologique, ce qu’il est, mais en partie seulement. En effet, ces spéculations sur le futur des nanotechnologies, des interfaces homme/machine, du génie génétique, de l’essor des Big data et du numérique sont portées par une utopie : le dépassement de la condition humaine. Le transhumanisme nous appelle à prendre en main notre évolution pour nous libérer de « la loterie génétique », de la mortalité, des limites de nos capacités. Il s’agit ni plus ni moins que de changer l’homme, de révolutionner ses conditions biologiques pour le transformer, bref faire passer l’humanité à une étape nouvelle (et supérieure) de son évolution grâce à un effort technologique concerté et intense. Le transhumanisme se pense comme un mouvement de libération biopolitique, dans la lignée de ceux qui ont marqué l’histoire depuis les années 1960, avec la particularité de ne pas proposer une révolution sociale ou politique mais une révolution technologique qui changerait le corps et, par ricochet, la société et la politique.

Né à la fin des années 1980, le mouvement transhumaniste a réussi à faire du transhumanisme un courant de pensée, discuté, débattu, scruté dans la plupart des pays occidentaux, au sein d’universités, d’hémicycles politiques, de débats médiatiques. Il est entré dans les dictionnaires et les manuels universitaires, a suscité l’écriture de dizaines de thèses, une abondante littérature, des colloques, des séminaires. Si seulement quelques partis politiques embryonnaires se sont revendiqués du transhumanisme, ses thématiques ont attiré l’attention des dirigeants politiques depuis plus de 15 ans, d’abord aux États-Unis puis en Europe. C’est que le transhumanisme a réussi à inscrire à l’agenda mondial certaines de ses problématiques, son vocabulaire, sa vision du monde : l’homme augmenté, l’eugénisme libéral, le prolongévisme, la colonisation spatiale comme réponse à la crise climatique, autant de thématiques qui ne sont peut-être pas propres au transhumanisme mais que celui-ci porte et, surtout, unifie dans un projet global. Des deux côtés de l’Atlantique, le transhumanisme inspire le travail de think tanks qui entendent orienter la réflexion politique et éthique sur les technologies. Ce travail d’influence passe par des réseaux, des publications, des institutions, des porte-paroles médiatiques. Les transhumanistes annoncent une « révolution technologique » en cours, révolution pour laquelle ils proposent une pensée, une éthique, une psychologie. Aussi n’est-il pas surprenant que le transhumanisme inspire l’action de dirigeants de multinationales qui investissent des sommes considérables dans le développement de technologies correspondant aux utopies transhumanistes, de la conquête spatiale aux transformations du génome. Larry Page et Sergey Brin, Elon Musk, Peter Thiel, Mark Zuckerberg sont les plus médiatisés, les plus puissants sans doute. On peut considérer que l’influence du transhumanisme est devenue majeure au sein de la Silicon Valley et ailleurs, dans les bioindustries comme dans les industries du numérique, notamment au nom de la convergence des technologies.

Mais le singulier utilisé jusqu’à présent ne doit pas leurrer : le transhumanisme n’est pas un mouvement unifié de militants porteurs d’une idéologie entièrement structurée. Ce courant de pensée est un mouvement protéiforme, avec des tendances multiples, pratiquant la controverse et cultivant un libéralisme foncier. Cette diversité des sensibilités se retrouve dans la diversité de ses formes : le mouvement transhumaniste est constitué de réseaux de militants mais aussi de pôles académiques et de fondations, mobilise des entrepreneurs, des ingénieurs, des sociologues ou des biologistes.

Les prises de position radicales – elles ne font pas dans la demi-mesure et elles touchent aux fondements – des transhumanistes ne peuvent que susciter de fortes polémiques. En remettant en question l’idée que l’homme ait une nature définie, qu’il doive respecter les limites physiques de sa condition, que la mort soit un horizon indépassable pour toute construction sociale, le transhumanisme interroge des éléments structurants de l’expérience humaine. Par certaines de ses propositions les plus radicales, le transhumanisme pousse les positions éthiques classiques dans leurs retranchements, les amenant à se positionner en face de pratiques déjà effectives que l’on pourrait rapporter au transhumanisme (comme un certain eugénisme libéral, l’usage de médicaments pour des bien-portants à finalité d’augmenter leurs capacités, etc.). Certains parlent même d’un « transhumanisme ordinaire », d’un transhumanisme qui se pratique sans que le nom soit utilisé, dans les laboratoires et les éprouvettes, mais aussi dans le secret des consciences. La controverse provoquée par le transhumanisme est donc aussi une formidable machine pour penser notre rapport aux technologies, formuler l’implicite, interroger les non-dits et les a priori, sonder les angles morts.

De tels débats donnent lieu à des prises de position fortes, de part et d’autres, qui souvent peuvent glisser vers la caricature. La rapidité avec laquelle ces débats se sont développés et leur écho médiatique ont favorisé le développement de nombreux lieux communs. C’est à la discussion de ces idées reçues que ce livre veut répondre : quelles sont les origines de ce courant d’idée ? Quelles sont l’ampleur et la nature du mouvement qui le véhicule ? Que veulent les transhumanistes ? Quelles sont leurs valeurs ? Quels sont les arguments de ses adversaires ? Comment, s’il est possible, dépasser les arguments maintes fois répétés et formuler ce qui est en jeu dans ce débat ?

Quel que soit l’avenir du transhumanisme, qu’un mouvement se perpétue ou non, qu’une pensée se structure ou non, que ses relais industriels s’épuisent ou non dans leur quête de l’immortalité ou de l’espace, que se développent des transhumanist studies ou non, le transhumanisme a permis de formuler toute une série de questions sur l’impact des technologies dans nos sociétés. Chemin faisant, en débattant du transhumanisme, c’est de la place que prennent les technologies dans notre vie que nous discutons. Le détour en vaut donc la peine !

Parution le 27 septembre 2018

Sommaire

Petite histoire du transhumanisme
Le transhumanisme est une idée neuve.
Il faut être américain pour croire au transhumanisme.
Le transhumanisme, une histoire de milliardaires.
Le transhumanisme est une nébuleuse.
Nous sommes déjà tous des cyborgs !
La pensée transhumaniste
Les transhumanistes veulent devenir immortels.
Le transhumanisme est un eugénisme.
C’est encore la vieille histoire de l’homme qui se prend pour Dieu.
L’homme augmenté, c’est du transhumanisme.
Le transhumanisme, c’est du libertarisme.
Le transhumanisme, c’est la fin de la morale.
Le transhumanisme, c’est de la science-fiction.
Le transhumanisme dans tous ses états
Le transhumanisme, une stratégie des GAFA pour nous manipuler.
Le transhumanisme est l’idée la plus dangereuse du monde.
Les personnes appareillées en raison d’un handicap préfigurent l’homme du futur.
L’homme d’aujourd’hui sera le chimpanzé du futur.
Une société où l’on ne meurt plus, c’est une société où on ne vit plus.
Le transhumanisme, c’est une religion qui sacralise la technique.

Communiquer par télépathie avec un essaim de drones

Mind Control. Contrôle de la pensée

Les militaires facilitent plus que jamais l’éloignement des soldats des conséquences de la guerre. Lorsque la guerre des drones a éclaté, les pilotes pouvaient, pour la première fois, s’asseoir dans un bureau aux États-Unis et larguer des bombes au Moyen-Orient. Maintenant, un pilote peut tout faire, simplement en se servant de son esprit – pas besoin de mains.

Au début du mois, la division de recherche militaire de DARPA, a dévoilé un projet sur lequel elle travaillait depuis 2015 : une technologie qui permet à une personne de piloter plusieurs avions et drones avec son esprit.

“À ce jour, les signaux provenant du cerveau peuvent être utilisés pour commander et contrôler… pas seulement un avion, mais trois types d’aéronefs simultanés”, a déclaré Justin Sanchez, directeur du Bureau des technologies biologiques de la DARPA.

DARPA et l’initiative cérébrale

Le porte-parole de la DARPA a déclaré que cette interface cerveau-ordinateur (BCI brain-computer interface) utilise des électrodes implantées dans et sur les cortex sensoriels et moteurs du cerveau, l’expérimentation a été limitée aux volontaires présentant divers degrés de paralysie. C’est-à-dire que les personnes qui dirigeaient ces avions simulés avaient déjà des électrodes cérébrales, ou du moins, avaient déjà des raisons de subir une intervention chirurgicale.

Pour essayer de trouver comment rendre cette technologie plus accessible et ne pas nécessiter la pose chirurgicale d’une sonde métallique dans le cerveau des personnes, la DARPA a récemment lancé le programme de neurotechnologie non chirurgicale N3 (NExt-Generation Nonsurgical Neurotechnology). Le but est de créer un appareil avec des fonctionnalités similaires, mais il ressemblera plus à un casque EEG que le pilote peut retirer une fois la mission terminée.

“Le système N3 envisagé serait un outil que l’utilisateur pourrait utiliser pendant la durée d’une tâche ou d’une mission, puis mis de côté”, a déclaré Al Emondi, responsable de N3, selon le porte-parole. “Je n’aime pas les comparaisons avec une manette de jeu ou un clavier, car elles ne reflètent pas tout le potentiel de la technologie N3, mais elles sont utiles pour transmettre la notion de base d’une interface avec des ordinateurs.”

Defense One, Engadget, DARPA

→ pour allez plus loin : Program Announcement for Artificial Intelligence Exploration (AIE) ; DARPA : Accelerating the Exploration of Promising Artificial Intelligence Concepts

L’Homme augmenté, réflexions sociologiques pour le militaire
Éthique sur le champ de bataille dans un futur proche
Augmentation des performances humaines avec les nouvelles technologies : Quelles implications pour la défense et la sécurité ?

Étude prospective à l’horizon 2030 : impacts des transformations et ruptures technologiques sur notre environnement stratégique et de sécurité.

Des électrochocs pourraient rendre moins violent

Une étude montre que choquer le cerveau d’une personne pourrait la rendre moins violente

Une étude conduite par des chercheurs de l’université de Pennsylvanie montre que des électrochocs rendraient les personnes moins susceptibles de commettre un acte violent. Ils pourraient aussi favoriser la perception du caractère moralement condamnable de la violence et de l’agression.

Les 81 adultes participant à l’étude, ont été divisés en 2 groupes : l’un a reçu pendant 20 minutes des électrochocs ciblés sur le cortex préfrontal, partie avant du cerveau essentielle aux processus de planification et de décision, l’autre n’a reçu aucun traitement. Deux scénarios d’agression physique et sexuelle ont ensuite été présentés à tous les participants, qu’ils aient reçus ou non des électrochocs. Il leur a alors été demandé d’évaluer, sur une échelle de 1 à 10, dans quelle mesure ils seraient susceptibles de commettre de tels actes.

Les résultats montrent que ceux qui ont reçu des électrochocs seraient moins susceptibles de perpétrer des agressions physiques ou sexuelles (respectivement -47% et -70%).

Il serait aisé (et irresponsable) d’en déduire que tous les coupables de violence doivent être soumis à des électrochocs. Néanmoins, l’étude n’ayant même pas tenté de déterminer quels pourraient être le nombre optimal de chocs à administrer, la durée du traitement, et le voltage adéquat, se précipiter vers une telle conclusion serait prématuré.

José Delgado et ses dispositifs de contrôle de l’esprit par la stimulation électrique du cerveau

Selon un communiqué de Stat News, même Olivia Choy, auteure principale de l’étude et professeure assistante en psychologie à l’université Nanyang de Singapour, insiste sur la nécessité de travaux complémentaires plus approfondis avant de conclure à l’efficacité de ce traitement pour réduire la violence.

Ainsi que comme l’a déclaré Roy Hamilton, un neurologue de la Perelman School of Medicine et auteur principal de l’étude, à PennToday, “La capacité de manipuler des aspects aussi complexes et fondamentaux de la cognition et du comportement de l’extérieur du corps a d’importantes implications sociales, éthiques et peut-être un jour juridiques.”

La stimulation magnétique transcrânienne pourrait être utilisée pour contrôler l’esprit

Bien que des recherches supplémentaires soient nécessaires, la possibilité de modifier le comportement par de l’électro stimulation ne semble pas si lointaine que cela. D’ores et déjà, les chocs électriques administrés selon la même technique, appelée stimulation transcrânienne à courant continu (tDSC), ont été utilisés pour traiter des conditions telles que la dépendance à la maladie d’Alzheimer et aux opioïdes, ou simplement pour stimuler la mémoire. Un jour, peut être, les aspects les plus violents de la société seront tempérés par un petit électrochoc. Ou comme le suggère Hamilton, ironiquement, “le secret pour être moins violent au plus profond de vous même est peut être d’avoir un esprit correctement stimulé”.

traduction Véronique Guiberteau

Stat News, Penn Today, Forbes, Journal of Neuroscience, EurekAlert

Vous possédez vos pensées. Mais peut-être pas pour longtemps

Imaginez que vous ayez une interface cérébrale capable de lire toutes vos pensées, conscientes et subconscientes. Qui posséderait ces données ? À qui donneriez-vous accès ? Qui pourrait faire de l’argent dessus ?

Étant donné que nous construisons la technologie d’interfaçage du cerveau chez Kernel, et que d’autres construisent aussi cette technologie, c’est un exercice de réflexion important qui a pesé lourdement sur mon esprit.

Nos vies sont capturées numériquement; historique de recherche, ce que nous lisons / écrivons, où nous allons, ce que nous faisons, à quelle vitesse nous marchons, ce que nous achetons, où nous vivons, les habitudes, les préférences, la religion, la politique, et des milliers de détails plus intimes. Facebook, Google et d’autres ont miné, monétisé et profité de cette information. Il est troublant de penser que nos données cérébrales brutes pourraient être traitées de la même manière.

Aujourd’hui, vos pensées sont votre domaine privé. Vous êtes la seule personne à avoir accès à votre cerveau. Ce sont les seules données que vous contrôlez toujours. Mais à moins de faire de gros changements, ce ne sera bientôt plus le cas.

Les implications sont plus sérieuses que d’entendre la conversation de quelqu’un.

Il y a quelques mois, #DeleteFacebook était à la pointe de la mauvaise gestion imprudente de nos informations et j’ai écrit Your Data is Your Property pour étoffer cet argument. Malgré le bouleversement public, la capitalisation boursière de FB est en hausse de 100 milliards de dollars et la conversation sur les données a progressé. Heureusement, The Economist et d’autres ont poursuivi leur examen de la propriété des données avec de nouveaux articles publiés cette semaine.

Il est essentiel que nous réglions correctement ce problème, non seulement pour mettre un terme à l’intrusion dans la vie privée ou l’exploitation des données personnelles par les entreprises, mais aussi parce que cela est essentiel pour l’avenir de la race humaine.

Voici pourquoi ce problème est sensible au temps MAINTENANT : nous avons accéléré le chemin pour rendre les humains hors de propos. Nos systèmes économiques actuels sont parfaitement conçus pour mettre l’homme à la faillite. C’est simple : l’argent coule vers les investissements les plus rentables et, par cette mesure, il est plus rentable d’investir dans la technologie que chez les humains (l’écart s’élargit rapidement). Bientôt, il ne sera rentable que d’investir dans la technologie.

En fin de compte, nos données alimentent la technologie qui permet à l’intelligence numérique (comme celle qui alimente Facebook) de devenir plus intelligente, plus rapide et d’atteindre des revenus records. Et peut-être le plus important, ils l’obtiennent, gratuitement, et à nos frais.

Pour inverser ce chemin vers l’inadéquation, nous devons commencer à nous améliorer radicalement. Cela commence avec nous pour posséder nos données. Si nous ne commençons pas la quête pour nous améliorer radicalement, au-delà de ce que nous sommes actuellement capables, nous ne serons pas en mesure de nous prouver nous-mêmes de manière adéquate. C’est la réponse à l’avenir du travail / robots prenant nos emplois.

Nos données personnelles, qui incluent nos compétences, notre prise de décision, nos connaissances, nos préjugés, nos penchants et nos angles morts, constituent l’outil d’auto-amélioration le plus puissant et le plus précieux que nous puissions posséder.

En bref, l’avenir évolue, posséder nos pensées est un point de départ nécessaire. De là, nous devons reconfigurer nos incitations économiques et nos ambitions personnelles vers une amélioration humaine radicale.

Ces idées sont expliquées plus en détail dans Un plan pour l’humanité – passez à l’étape 3.

Bryan Johnson

Bryan Johnson est le fondateur de Kernel, OS Fund et Braintree. En 2016, il a fondé Kernel, investissant 100 millions de dollars pour construire des interfaces neurales avancées pour traiter les maladies et les dysfonctionnements, éclairer les mécanismes de l’intelligence et étendre la cognition. Kernel a pour mission d’améliorer considérablement notre qualité de vie au fur et à mesure que la durée de vie augmente. Il croit que le futur de l’humanité sera défini par la combinaison de l’humain et de l’intelligence artificielle (HI + AI). En 2014, Bryan a investi 100 millions de dollars pour lancer le OS Fund qui investit dans des entreprises scientifiques et technologiques qui commercialisent des découvertes révolutionnaires en génomique, en biologie synthétique, en intelligence artificielle, en automatisation de précision et en développement de nouveaux matériaux. En 2007, Bryan a fondé Braintree (acquiert Venmo en 2012) qu’il a vendu à PayPal en 2013 pour 800 M $.

Encyclopédie du transhumanisme et du posthumanisme

L’humain et ses préfixes

ISBN 978-2-7116-2536-9 – janvier 2015

Les préfixes de l’humain sont nombreux (ab- in-, para-, pré-, post-, proto-, sub-, sur-, trans-humain…). Ils invitent à réfléchir à la nature, aux limites et aux transformations de l’être humain ainsi qu’aux réactions intellectuelles et émotionnelles suscitées. Le trans/posthumanisme concerne toutes les techniques matérielles d’augmentation ou d’amélioration (physique, cognitive, émotionnelle) de l’homme, une perspective volontiers située dans le prolongement de l’humanisme progressiste des Lumières. Mais l’homme « amélioré ou augmenté » – « transformé » – pourrait s’éloigner toujours davantage des conditions de l’homme naturel « cultivé » ordinaire. Le transhumanisme risque de verser, brutalement ou imperceptiblement, dans le posthumanisme, référant à des entités qui, bien que « descendant » de l’homme, seraient aussi étrangères à celui-ci que l’espèce humaine est éloignée des formes de vie paléontologiques. Le posthumanisme flirte avec le nihilisme et l’imagination apocalyptique.

Aux franges les plus audacieuses de la bioéthique, l’Encyclopédie n’écarte pas plus qu’elle ne focalise les questions éthiques. Elle englobe, sans les confondre, l’analyse conceptuelle, l’extrapolation technoscientifique et l’imagination spéculative. La première partie « Philosophie et éthique » est consacrée au débat philosophique relatif au trans/posthumanisme. Les entrées reflètent le vocabulaire conceptuel propre aux principaux auteurs trans/posthumanistes et à leurs critiques directs. La deuxième partie « Technoscience et médecine d’amélioration » parcourt les références actuelles aux sciences et aux techniques biomédicales inhérentes à la problématique transhumaniste. Elle distingue entre ce qui se fait, pourra probablement se faire ou relève du domaine de la projection spéculative et imaginaire.

La troisième partie « Techniques, arts et science-fiction » est centrée autour des échanges entre technosciences et créations artistiques, spécialement l’imaginaire de la science-fiction où les thèmes post/transhumanistes sont fortement représentés.

Ont collaboré à ce volume : S. Allouche, M. Andrin, B. Baertschi, J.-M. Besnier, G. Chapouthier, A. Cleeremans, P.-F. Daled, Ch. Den Tandt, É. De Pauw, G. Dine, L. Frippiat, J. Goffette, J.-Y. Goffi, D. Goldschmidt, M. Groenen, G. Hottois, C. Kermisch, D. Lambert, A. Mauron, J.-N. Missa, D. Neerdael, P. Nouvel, L. Perbal, M.-G. Pinsart, C. Pirson, J. Proust, I. Queval, S. Vranckx

[su_document url=”http://www.vrin.fr/tdm/TdM_9782711625369.pdf” width=”840″ height=”800″]

Une technologie pour lire les émotions des employés chinois

Des projets de surveillance soutenus par le gouvernement déploient une technologie de lecture du cerveau pour détecter les changements dans les états émotionnels chez les employés de la chaîne de production, de l’armée et à la tête des trains à grande vitesse

Les travailleurs en Chine sont connectés à des appareils de lecture de cerveau qui transmettent des informations sur leurs humeurs à leurs employeurs, ce qui soulève des inquiétudes quant à la confidentialité des émotions les plus élémentaires. Les systèmes pourraient représenter un “tout nouveau niveau” d’abus de la vie privée.

Les capteurs électroniques intégrés aux chapeaux et aux casques sont utilisés en Chine sur une échelle sans précédent pour lire les émotions des employés, rapporte le South China Morning Post, dans ce que les entreprises disent faire partie de l’amélioration de l’efficacité et de la productivité.

Bien que les détails sur le fonctionnement de la technologie ne soient pas clairs, les rapports suggèrent que les appareils utilisent des capteurs légers et des algorithmes d’intelligence artificielle pour surveiller les ondes cérébrales et détecter les pics d’émotions tels que la rage, l’anxiété et la dépression. Ils peuvent être dissimulés dans des casques de sécurité ou des chapeaux uniformes, et transmettre des données à des ordinateurs auxquels les employeurs ont accès.

Credit The Telegraph

Les scientifiques décodent les pensées, lisent l’esprit des personnes en temps réel

Certaines entreprises ont indiqué qu’elles utilisaient cette technologie pour surveiller les niveaux de stress des travailleurs afin qu’ils puissent ajuster leurs rythmes de production, les flux de travail et la durée des temps de pause en conséquence, en augmentant l’efficacité et en améliorant potentiellement les moyens de subsistance de leur personnel. L’idée est que le système donne aux entreprises l’occasion de stimuler le moral des travailleurs avant que la détresse émotionnelle puisse causer un problème, pas après.

“Lorsque le système émet un avertissement, le manager demande au travailleur de prendre un jour de congé ou de passer à un poste moins critique”, a déclaré Jin Jia, professeur agrégé de sciences du cerveau et de psychologie cognitive à l’Université de Ningbo, où l’un des projets de surveillance du cerveau a eu lieu. “Certains emplois exigent une forte concentration. Il n’y a pas de place pour une erreur.”

Le machine-learning peut lire votre électroencéphalographie (EEG) et découvrir vos habitudes

Cheng Jingzhou, un responsable du système de surveillance de la State Grid Zhejiang Electric Power à Hangzhou, dans la province orientale du Zhejiang, a déclaré que le système avait connu un énorme succès. Cheng a déclaré que son entreprise, qui compte 40 000 employés, a vu ses bénéfices augmenter d’environ deux milliards de yuans (315 millions de dollars) après le déploiement du système en 2014. “Il n’y a aucun doute sur son effet”, a-t-il ajouté.

Et si vous pouviez « voir » directement dans le cerveau d’une autre personne ?

Les travailleurs qui utilisent l’équipement de balayage cérébral ont montré qu’ils craignaient une atteinte à la vie privée encore plus envahissante. Jia Jia a déclaré que certains utilisateurs pensaient que nous pouvions lire dans leurs pensées. Cela a causé un certain inconfort et une certaine résistance au début.

Qiao Zhian, professeur de psychologie de gestion à l’Université de Beijing, a déclaré que le manque de réglementation de la technologie mettait en péril la vie privée des utilisateurs. “L’employeur peut être fortement incité à utiliser la technologie pour augmenter ses profits, et les employés sont généralement dans une position trop faible pour dire non”.

Il a ajouté : “La vente des données de Facebook est assez mauvaise. La surveillance du cerveau peut porter l’abus de la vie privée à un tout autre niveau.”

Les Chinois sont, sans doute, parmi les personnes les plus surveillées sur Terre. Le gouvernement équipe de nombreuses caméras avec reconnaissance faciale, surveille le revenu des citoyens et leur activité sociale afin de déterminer leur pointage de crédit social. Un score inférieur peut affecter les opportunités d’emploi, les options de voyage et bien plus encore.

The South China Morning Post (SCMP), The Telegraph, MIT Tech Review