Skip to content

L’intelligence artificielle pourrait détourner les interfaces cerveau-machine

et prendre le contrôle de nos esprits

Les technologies BCI (interface cerveau-machine) ont reçu plus d’attention depuis que le PDG et fondateur de Tesla, Elon Musk, a annoncé son intention de développer une interface cerveau-machine par le biais de sa startup Neuralink. Cependant, Musk n’était pas le premier à proposer la possibilité d’améliorer les capacités humaines grâce à l’interfaçage cerveau-machine. Un certain nombre d’autres startups travaillent sur un objectif similaire, y compris le fondateur de Braintree Bryan Johnson avec Kernel. Même la Defense Advanced Research Projects Agency (DARPA) du département de la Défense des États-Unis y travaille.

Aujourd’hui, selon une collaboration de 27 experts – neuroscientifiques, neurotechnologues, cliniciens, éthiciens et ingénieurs de l’intelligence machine – se qualifiant eux-mêmes de Morningside Group – les BCI présentent une énigme unique et plutôt troublante dans le domaine de l’intelligence artificielle. Essentiellement conçus pour pirater le cerveau, les BCI eux-mêmes courent le risque d’être piratés par l’intelligence artificielle.

« De tels progrès pourraient révolutionner le traitement de nombreuses affections, allant des lésions cérébrales et de la paralysie à l’épilepsie et à la schizophrénie, et transformer l’expérience humaine pour le mieux », ont écrit les experts dans un article de la revue Nature. « Mais la technologie pourrait également exacerber les inégalités sociales et offrir aux entreprises, aux hackers, aux gouvernements ou à quiconque d’autres moyens d’exploiter et de manipuler les gens. Et cela pourrait modifier profondément certaines caractéristiques fondamentales de l’être humain : la vie mentale privée, l’action individuelle et la compréhension des individus en tant qu’entités liées par leur corps. »

Les experts ont utilisé l’analogie d’un homme paralysé qui participe à un essai BCI mais n’aime pas l’équipe de recherche qui travaille avec lui. Une intelligence artificielle pouvait alors lire dans ses pensées et interpréter son aversion pour les chercheurs comme un ordre de leur causer du mal, bien que l’homme n’ait pas donné explicitement un tel ordre.

Ils ont expliqué plus en détail :

Les développements technologiques signifient que nous sommes sur la voie d’un monde dans lequel il sera possible de décoder les processus mentaux des gens et de manipuler directement les mécanismes cérébraux qui sous-tendent leurs intentions, leurs émotions et leurs décisions ; où les individus peuvent communiquer avec les autres simplement en pensant ; et où de puissants systèmes informatiques reliés directement au cerveau des gens facilitent leurs interactions avec le monde, de sorte que leurs capacités mentales et physiques sont grandement améliorées.

Afin de se préparer à cette éventualité, le Morningside Group a proposé quatre considérations éthiques qui doivent être abordées : la vie privée et le consentement, la volonté et l’identité, l’augmentation et le parti pris. « Pour que les neurotechnologies prennent leur envol sur les marchés de grande consommation, les dispositifs devraient être non invasifs, présenter un risque minimal et nécessiter beaucoup moins de dépenses que les procédures neurochirurgicales actuelles », ont-ils écrit.

« Néanmoins, même aujourd’hui, les entreprises qui développent des dispositifs doivent être tenues responsables de leurs produits et être guidées par certaines normes, de meilleures pratiques et de normes éthiques ». Ces considérations deviennent encore plus cruciales lorsque l’on considère que « la chasse au profit l’emporte souvent sur la responsabilité sociale » en ce qui concerne la poursuite de la technologie, selon l’histoire de l’humanité.

L’une des utilisations potentielles des BCI est sur le lieu de travail. Comme l’explique Luke Tang, directeur général de l’accélérateur de technologies d’intelligence artificielle TechCode : « Je crois que le plus grand secteur dans lequel cette technologie est présente est le milieu des affaires – la machine cérébrale façonnera nos futurs lieux de travail ». Concrètement, les technologies BCI pourraient améliorer la collaboration à distance, accroître les connaissances et améliorer la communication.

Pour cette dernière, la technologie BCI fonctionnerait comme une « technologie capable de traduire vos pensées en paroles ou en actions qui, sans aucun doute, se révéleront transformatrices pour les méthodes de communication technologiques actuelles. La technologie cerveau-machine peut conduire à un flux de communication plus rapide et plus précis. » a déclaré M. Tang.

C’est précisément cette capacité à plonger dans les pensées d’une personne qui pourrait présenter un défi pour les BCI à mesure que des technologies telles que l’intelligence artificielle deviennent beaucoup plus avancées. Afin de ne pas perdre tout le potentiel que les BCI peuvent offrir, il est important d’avoir les bonnes considérations. « Les avantages cliniques et sociétaux possibles des neurotechnologies sont vastes », ont conclu les chercheurs de Morningside. « Pour les récolter, nous devons guider leur développement d’une manière qui respecte, protège et permette ce qu’il y a de meilleur dans l’humanité. »

traduction Thomas Jousse

Newsweek, Nature

1 Comment »

Laisser un commentaire

Shares