Skip to content

Nous avons besoin d’un manifeste pour un avenir humain

La fin de l’ère humaine est proche. C’est du moins ce qui nous semble être le consensus de ceux qui ont le plus réfléchi concernant la direction que prend l’intelligence artificielle.

Nous devons maintenant connaître l’histoire : Lorsque l’intelligence artificielle, ce produit de l’intelligence humaine, dont nous sommes devenus de plus en plus dépendants, transcendera et remplacera l’intelligence humaine dans une génération – Plus intelligent et compétent en tout -, elle commencera à diriger les choses. Ou quelque chose comme ça. L’Ere Humaine va céder la place au Transhumain.

Ce ne sera pas une extension de l’ère humaine, comme aujourd’hui, mais avec des Siris et des Alexas toujours plus intelligents et plus performants à notre disposition. Selon le regretté Stephen Hawking, « Une fois que les humains auront développé l’intelligence artificielle, elle prendra son envol et se reconfigurera à un rythme toujours croissant. » Prenant son envol, elle pourrait, par exemple, trouver une solution brillante au cancer en éliminant simplement la créature vulnérable et obsolète pour qui le cancer (ou le changement climatique) est un problème.

L’intérêt de l’intelligence artificielle est qu’en tant qu’intelligence plus puissante, elle sera autoprogrammée, et non plus gouvernée par notre intelligence inférieure, simplement humaine. C’est pourquoi on l’appelle la fin de l’ère humaine. Ce qui nous arrivera exactement n’est pas encore clair, mais une certaine version de ce qui est obsolète, retiré ou éliminé – en gros, ce qui est arrivé aux Néandertaliens quand nous, les Homo sapiens, sommes arrivés.

Cela ne devrait pas être pour nous une conjecture sauvage. Nous sommes assez loin sur la pente glissante pour suggérer la plausibilité. Les conséquences imprévues de la digitalisation de la vie font partie des grandes histoires de l’année écoulée – le hacking des élections et autres menaces pour la démocratie, le facteur Big Brother alors que nous chargeons nos vies d’espions potentiels sous la forme d’appareils toujours plus sophistiqués et séduisants ; des écrans envahissant le cœur et l’esprit de nos enfants et biaisant la vie sociale en général.

A ne pas manquer !  Au-delà de la bioéthique. Vers une nouvelle biopolitique

Ce qui est étonnant, c’est que bien que cette fin-des-temps technologique à l’horizon proche ne soit pas un secret, nous sommes apparemment plutôt cool avec cela. Nous ne voyons aucun mouvement Extinction Rebellion manifestant contre l’extinction par l’intelligence artificielle.

L’idée même de confier l’avenir à notre progéniture numérique de génie suggère à cet humain la nécessité d’un Manifeste pour un avenir humain, ne serait-ce que pour nous expliquer pourquoi nous ne devrions pas entrer dans cet avenir douteux. Il semblerait que nous soyons apparemment arrivés au point de l’histoire humaine où nous devons réellement plaider en faveur d’un avenir humain, plutôt que transhumain.

Un manifeste commencerait à affirmer notre responsabilité fondamentale et l’obligation de ne pas commettre le suicide par l’intelligence artificielle. L’expérience humaine en tant que créature incarnée avec ses limites et sa vulnérabilité est la source du sens humain. Pour nous, il n’y a et ne peut y avoir aucune signification en dehors de la signification humaine et corporelle. Nous nous opposons à déléguer l’avenir à la technologie, même si elle est le produit du génie humain, qui ne partagera pas notre position. La raison même qui rend les ordinateurs supérieurs, leur absence d’un corps vulnérable, est ce qui les disqualifie pour prendre des décisions pour les créatures incarnées.

Les humains ont fait et continuent de faire des choses terribles à la terre, à d’autres créatures, à nous-mêmes. Mais nous avons aussi fait des choses qui nous paraissent merveilleuses. Et nous ne devons pas déléguer l’autorité pour faire la distinction cruciale entre le bébé et l’eau du bain.

A ne pas manquer !  Conférence organisé par le Cercle de l'Aréopage sur le Transhumanisme

Si le transhumanisme est la direction que prend l’intelligence artificielle, nous devrions arrêter de la développer.

Intelligence Artificielle : dimensions socio-économiques, politiques et éthiques

La résistance au changement technologique a longtemps eu la réputation d’être à la fois stupide et futile. La technologie a été plus ou moins synonyme de progrès ; nous n’avons pas eu le droit de nous y opposer. Nous affirmons ici que ce n’est pas du luddisme que de reconnaître que parfois le progrès signifie rejeter la dernière technologie.

L’adaptabilité, souvent considérée comme l’une de nos caractéristiques les plus importantes, est surestimée. Surtout l’adaptabilité aux nouvelles technologies. (Il suffit de voir les réflexions actuelles sur l’énergie nucléaire et les plastiques).

Le truisme « Le changement est inévitable » est à la fois cynique et irresponsable en faisant croire que le changement lui-même est un agent. Nous sommes ici et nous devons décider de l’avenir de l’humanité en nous basant sur notre propre compréhension du sens de la vie humaine.

Voilà donc une ébauche très sommaire des bases d’un Manifeste pour un avenir humain.

Brent Harold de Wellfleet, ancien professeur d’anglais et chroniqueur d’opinion pour le Cape Cod Times, depuis 1994.

Artificial Intelligence Universe


    2 Comments »

    1. Qu’y-a-t-il de si étonnant à ce qu’il n’y ait pas de manifestation contre les ASI?

      Les ASI n’existent pas et leur arrivée ne paraît pas imminente. La population se soucie donc d’avantage des menaces sur l’emploi exercées par des technologies d’automatisation bien moins spectaculaires. Elle ne se soucie pas des changements futurs mais simplement de ceux qu’elle vit. En outre, il semble évident que les périls terroristes et environnementaux interpellent plus encore la population que les robots et algorithmes.

      En réponse à l’automatisation croissante du travail, beaucoup de gens misent sur des études supérieures pour esquiver la disruption. Cette stratégie est vaine mais certainement moins que les manifestations, grèves et émeutes. Ecrire un manifeste ne mange pas de pain mais quid de l’application de ses préceptes? Dans un style plus proactif, il faut se demander qui cherchent à créer une ASI et comment lui imposer une nécessaire régulation des pouvoirs publics.

      Petit détail pour finir: Si l’idée est de mettre en garde l’humanité contre les ASI, le mieux est de ne pas faire référence au transhumain. Les ASI ne sont pas des transhumains. Passer à l’ère transhumaine et l’ère des ASI sont deux évènements différents. Le singularisme et le transhumanisme sont bien des courants distincts qui ne sont ni incompatibles, ni indissociables.

    Laisser un commentaire

    Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

    Recommandé
    Pour démarrer cette nouvelle année et pour vous remercier d'être…
    Défiler vers le haut