Le transhumanisme est un mouvement radical qui favorise la transformation de la condition humaine. Le transhumanisme cherche à développer les possibilités techniques qui nous permettrons de surmonter nos limites biologiques par les progrès technologiques.
L’apartheid climatique est imminent. Seuls les riches survivront.
Un rapport de l’ONU prévoit que les populations pauvres de la planète ne pourront pas échapper au pire de la crise climatique.
Si la catastrophe du changement climatique mondial se poursuit sans être maîtrisée, de vastes régions du monde deviendront probablement plus hostiles et beaucoup moins hospitalières pour l’humanité.
Lorsque cela se produira, un fossé encore plus profond se creusera entre les nantis et les démunis de la planète, car de nombreuses personnes se retrouveront sans les moyens d’échapper aux pires effets de la crise climatique, selon un nouveau rapport publié par le Conseil des droits de l’homme des Nations unies qui décrit un “apartheid climatique” imminent.
Alors que les riches déménagent dans des zones habitables plus chères, le rapport prévoit que 120 millions de personnes seront plongées dans la pauvreté d’ici 2030 en raison du changement climatique. Beaucoup d’autres mourront.
Le rapport décrit comment les 3,5 milliards de personnes les plus pauvres du monde sont responsables de dix pour cent des émissions mondiales de gaz à effet de serre, tandis que les dix pour cent les plus riches de la population mondiale sont responsables de la moitié.
« Perversement, les plus riches, qui ont la plus grande capacité d’adaptation, qui sont responsables de la vaste majorité des émissions de gaz à effet de serre et qui en ont tiré profit, seront les mieux placés pour faire face au changement climatique », a écrit Philip Alston, responsable des droits humains et de la pauvreté aux Nations Unies dans son rapport, “tandis que les plus pauvres, qui ont le moins contribué aux émissions et ont le moins de capacité à se protéger, seront les plus touchés”.
Dans le rapport, Alston écrit comment l’accès des riches aux ressources vitales a amené l’humanité à s’adapter à la crise climatique dans la mauvaise direction – au lieu d’agir pour prévenir ou inverser le pire du changement climatique, les riches peuvent se permettre d’éviter personnellement ce problème.
“Une dépendance excessive à l’égard du secteur privé pourrait conduire à un scénario d’apartheid climatique dans lequel les riches paieraient pour échapper au réchauffement, à la faim et aux conflits, tandis que le reste du monde en souffrirait”, écrit Alston.
L’intelligence artificielle pourrait aider l’humanité à surmonter bon nombre des graves problèmes sociaux auxquels elle est confrontée, mais elle lance en même temps une série de défis complexes, notamment sur le plan de l’éthique, des droits de l’homme et de la sécurité. Or, aucun cadre éthique international, s’appliquant à l’ensemble des développements et des applications de l’intelligence artificielle, n’existe à l’heure actuelle. Un instrument normatif international est indispensable.
Audrey Azoulay, Directrice générale de l’UNESCO, répond aux questions de Jasmina Šopova
Pourquoi l’UNESCO s’intéresse-t-elle à l’intelligence artificielle ?
Les experts sont unanimes : l’humanité est au seuil d’une nouvelle ère ; l’intelligence artificielle va transformer nos existences dans une mesure que nous ne pouvons imaginer. Cette transformation a déjà commencé et elle affecte tous les secteurs de notre vie. L’ intelligence artificielle connaît de nombreuses applications dans des domaines aussi variés que la santé, l’éducation, la culture, la sécurité, la défense… La recherche a pris un essor considérable ces dernières années : les géants du web (GAFAM), mais aussi de nombreux pays investissent désormais massivement dans l’intelligence artificielle et se font les acteurs de cette « quatrième révolution industrielle ».
L’UNESCO a un vrai rôle à jouer à l’heure de ces mutations. D’abord, parce que les applications de l’intelligence artificielle touchent directement ses domaines de compétence. L’éducation sera profondément transformée par l’intelligence artificielle.
Les outils d’enseignement, les manières d’apprendre, d’accéder à la connaissance, de former les enseignants vont être révolutionnés. La question des compétences à développer pour évoluer dans un monde toujours plus automatisé va devenir de plus en plus centrale.
Dans le domaine de la culture, l’intelligence artificielle est déjà largement sollicitée, par exemple dans l’imagerie 3D utilisée pour la reconstruction du patrimoine, comme nous allons le faire pour la vieille ville de Mossoul en Iraq. Dans les sciences également, notamment dans nos programmes environnementaux et dans la recherche subaquatique, par exemple pour le classement des images de plancton ou la détection et le recensement automatiques des cétacés et des oiseaux marins.
« L’UNESCO a un vrai rôle à jouer à l’heure de ces mutations. Les applications de l’intelligence artificielle touchent directement ses domaines de compétence »
La communication et l’information sont aussi bien sûr directement tributaires des avancées réalisées dans le domaine de l’intelligence artificielle. L’UNESCO doit mener cette réflexion sur les bénéfices et les risques de l’intelligence artificielle pour l’éducation, la culture, la science, la communication et l’information.
Quels en sont les risques selon vous ?
De manière générale, l’intelligence artificielle peut être une chance fantastique pour la réalisation des objectifs posés par l’Agenda 2030, mais cela suppose de traiter sans plus attendre les questions éthiques qu’elle pose. Une chance, car ses applications aident à avancer plus rapidement vers la réalisation des Objectifs de développement durable – en autorisant une meilleure évaluation des risques, en permettant une meilleure prospective, un partage plus rapide des connaissances, en proposant des solutions innovantes dans les domaines de l’éducation, de la santé, de l’écologie, de l’urbanisme, des industries créatives, en améliorant le niveau de vie et le bien-être quotidien.
Mais c’est aussi une menace, car l’automatisation et la numérisation créent de nouveaux déséquilibres, peuvent diminuer la diversité dans les industries culturelles, bouleversent le marché du travail, engendrent de la précarité, accroissent les disparités entre ceux qui ont accès à ces nouvelles technologies et ceux en sont privés.
C’est là que l’UNESCO a également un rôle à jouer : en tentant de réduire, par le soutien qu’elle apporte à ses États membres, les inégalités dans l’accès au savoir et à la recherche. La fracture technologique risque d’avoir un effet démultiplicateur sur les inégalités sociales. L’UNESCO doit être en mesure d’aider ses États membres à s’adapter aux nouvelles réalités et à accéder au savoir technologique.
Comment l’UNESCO peut-elle concrètement apporter ce soutien ?
L’un des enjeux, pour les États membres, est de pouvoir disposer de matériaux d’ingénierie sophistiqués, à la pointe de l’innovation, ainsi que de compétences humaines suffisantes – des scientifiques et des ingénieurs. Grâce à ses Centres d’éducation et de formation dans le domaine de la science, de la technologie et de l’innovation (STI), son Observatoire mondial des instruments de politique de la science, de la technologie et de l’innovation (GO-SPIN) ou encore son Programme international relatif aux sciences fondamentales (PISF), l’UNESCO est en mesure de fournir un tel soutien – et d’aider à réduire les disparités entre pays.
Quels sont les défis que pose l’intelligence artificielle en matière d’éducation ? Comment l’UNESCO compte-t-elle y répondre ?
C’est un domaine bien sûr essentiel pour l’Organisation. Là encore, la révolution qui s’amorce génère des effets à la fois positifs et négatifs. Des logiciels pédagogiques fondés sur l’intelligence artificielle sont déjà utilisés pour décentraliser l’enseignement, le personnaliser, fournir aux étudiants des conseils sur les curricula ou encore des certifications.
Mais ces technologies sont coûteuses, donc inaccessibles au plus grand nombre : le fossé entre riches et pauvres risque de se creuser encore davantage.
Du fait de son rôle de coordination du Comité directeur ODD – Éducation 2030, chargé de suivre la réalisation de l’Objectif de développement durable 4, dédié à l’éducation, l’UNESCO est en excellente position pour conduire ce travail, en identifiant les possibles contributions de l’intelligence artificielle à une éducation ouverte à tous et en évaluant son impact potentiel sur l’avenir de l’apprentissage.
La promotion d’outils d’IA libres d’accès, qui favoriseront les innovations locales, sera l’une de nos priorités.
Pour préparer les nouvelles générations au nouveau paysage du travail que l’intelligence artificielle est en train de dessiner, il faudra également repenser les programmes éducatifs, en mettant l’accent sur l’enseignement des sciences, de la technologie, de l’ingénierie et des mathématiques, mais aussi en accordant une place de premier ordre aux humanités, aux compétences en matière de philosophie et d’éthique.
Quel est le rapport entre l’intelligence artificielle et la philosophie ou l’éthique ?
Dans leur vie d’adultes, les écoliers et étudiants d’aujourd’hui devront sans doute affronter des problèmes dont la nature nous échappe à l’heure actuelle. Il est difficile de prévoir toutes les évolutions possibles de ces machines de plus en plus sophistiquées qui gagnent chaque jour un peu plus en autonomie, au point de défier, déjà, dans une certaine mesure, l’identité humaine. C’est la raison pour laquelle, des compétences en matière d’éthique, mais aussi dans les sciences sociales et humaines en général, seront tout aussi importantes que celles dans les sciences formelles. Il peut y avoir aussi des biais embarqués dans les systèmes d’IA – notamment des biais de genre – qui requièrent plus de transparence de la part de ces systèmes et de solides principes éthiques pour les corriger.
Pourquoi est-il difficile de prévoir les futures évolutions de l’intelligence artificielle ?
La recherche dans le domaine de l’intelligence artificielle avance à très grande vitesse, tandis que les environnements juridiques, sociaux et éthiques qui devraient l’encadrer évoluent très lentement. Jusqu’où peut aller l’autonomie d’une machine et son pouvoir de décision ? En cas d’accident, qui porte la responsabilité ? Et qui décide des valeurs inculquées aux machines durant ce qu’on appelle leur « apprentissage » ? Ces questions, parmi bien d’autres, restent aujourd’hui sans réponse.
On a constaté, par exemple, que des algorithmes formés au langage humain ordinaire avaient acquis des préjugés fondés sur des stéréotypes à partir de données textuelles présentes dans notre culture de tous les jours. Comment ne pas s’inquiéter du danger de voir apparaître des machines au comportement discriminatoire, raciste ou hostile ?
Il y a des raisons de s’inquiéter à bien d’autre égards aussi : protection de la vie privée et publicité ciblée sur l’Internet ; liberté d’expression et algorithmes de censure ; journalisme automatisé et monopole de l’information…
Même si la recherche fondamentale en la matière est, dans l’ensemble, motivée par le bien-être, des dérives involontaires, mais volontaires aussi, sont toujours possibles. C’est la raison pour laquelle il est impératif de s’assurer que cette technologie se développe suivant des normes éthiques rigoureusement établies.
Si nous voulons tirer le meilleur parti des possibilités offertes par l’intelligence artificielle pour le monde entier, nous devons veiller à ce qu’elle soit au service de l’humanité, dans le respect de la dignité et des droits de l’homme.
Or, aucun cadre éthique international, s’appliquant à l’ensemble des développements et des applications de l’intelligence artificielle, n’existe à l’heure actuelle.
L’UNESCO est ce forum universel unique qui dispose d’une expérience de plus de vingt ans dans l’élaboration d’instruments internationaux relatifs à la bioéthique et à l’éthique des sciences et des technologies. Elle peut également s’appuyer sur deux organes consultatifs d’experts qui travaillent activement sur ces questions : la Commission mondiale d’éthique des connaissances scientifiques et des technologies (COMEST) et le Comité international de bioéthique (CIB).
Il est de notre responsabilité de mener un débat universel et éclairé – pas un débat technique mais bien éthique – afin d’entrer dans cette nouvelle ère les yeux grands ouverts, sans sacrifier les valeurs qui sont les nôtres et permettre, si les États membres le souhaitent, d’aboutir à un socle commun de principes éthiques.
À qui appartient la prise de décision ?
Décisions humaines : réflexions sur l’intelligence artificielle, 2018
Le phénomène des données de masse (big data) et le tournant des systèmes d’apprentissage profond ont fait de l’intelligence artificielle l’une des tendances technologiques les plus débattues du moment, du fait de ses répercussions sur les individus et les cultures.
Les aspects techniques de l’intelligence artificielle ont de quoi fasciner, mais certains craignent qu’elle ne finisse par éclipser l’intelligence humaine. Même en acceptant l’idée qu’elle puisse faire progresser l’humanité, il nous faut anticiper les dangers d’une IA devenue incontrôlable, et prendre conscience de ses implications éthiques.
Vaste sujet, intéressant à la fois la philosophie, les mathématiques, les sciences, l’informatique et l’ingénierie, que Netexplo, un observatoire indépendant partenaire de l’UNESCO, scrute avec attention. En 2015, l’UNESCO et Netexplo ont créé un conseil consultatif commun, l’UNAB. Ce réseau de professeurs, conférenciers et chercheurs venus des plus grandes universités du monde a pour mission d’analyser les tendances de la technologie numérique et en particulier l’intelligence artificielle.
En 2018, l’UNAB a publié Human Decisions : Thoughts on AI [Décisions humaines : réflexions sur l’intelligence artificielle], un recueil d’analyses qui a pour objectif de susciter une réflexion sur les défis les plus cruciaux en matière d’IA et d’en saisir les ressorts sous-jacents. Les humains confient-t-il délibérément à l’intelligence artificielle leurs pouvoirs de décision ? L’ intelligence artificielle est-elle vue en tant que substitut de l’homme ? Quelle mesures potentielles de protection contre les dérives de l’intelligence artificielle? Voici quelques-unes des questions examinées dans cet ouvrage. Elle s’ajoutent aux points de vue développés par Netexplo, qui mettent en regard différents scénarios.
Par-delà les points de vue, une question revient de façon lancinante : celle de la prise de décision. Avons-nous déjà renoncé à l’autorité que nous confère la maîtrise de la machine ? Et si l’intelligence artificielle finissait par contrôler le comportement des hommes sans leur participation ? Dans ce cas, qui (ou quoi) participera à la prise de décision ?
Si certains experts craignent que l’emprise de l’intelligence artificielle ne nous conduise à un système interconnecté qui verrait notre intelligence subordonnée à celle des machines, d’autres restent persuadés que nos connaissances informatiques actuelles sont encore trop limitées pour justifier une telle peur de l’inconnu. Selon eux, il n’est pas question de compétition, mais de coopération entre intelligence artificielle et genre humain.
Comment la Chine gouverne grâce aux données, à l’intelligence artificielle et à la surveillance Web.
En 1955, l’auteur de science-fiction Isaac Asimov a publié une nouvelle sur la « démocratie électronique », où un seul citoyen, choisi pour représenter une population entière, répondait aux questions générées par un ordinateur nommé Multivac. La machine recueillait ces données et calculait les résultats d’une élection qui, conséquemment, n’avait plus besoin d’avoir lieu. L’histoire d’Asimov se déroule à Bloomington, en Indiana, mais aujourd’hui, une machine semblable à Multivac est en construction en Chine.
Dans tout régime autoritaire, « le problème fondamental réside dans le fait que le centre ne comprend pas ce qui se passe aux niveaux inférieurs ni dans l’ensemble de la société », affirme Deborah Seligsohn, politologue et spécialiste de la politique chinoise à la Villanova University à Philadelphie. Comment peut-on gouverner efficacement un pays abritant un cinquième de la population planétaire et doté d’une économie et d’une société complexes si aucun débat public, aucun activisme civil ni aucune rétroaction ne sont permis ?
Comment recueille-t-on suffisamment de renseignements pour vraiment prendre des décisions ? Et comment un gouvernement qui n’invite pas ses citoyens à participer au débat peut-il encore susciter la confiance et modifier le comportement du public sans ingérence policière ?
Hu Jintao, leader de la Chine de 2002 à 2012, a tenté de régler ces problèmes en permettant un modeste dégel démocratique, où le peuple avait la possibilité de présenter ses griefs à la classe dirigeante. Son successeur, Xi Jinping, a inversé cette tendance. Sa stratégie pour comprendre et réagir à ce qui se passe chez une nation de 1,4 billion de citoyens repose plutôt sur une combinaison de surveillance, d’intelligence artificielle et de mégadonnées pour surveiller leur vie et leur comportement dans les moindres détails.
Cybersouveraineté
Les deux dernières années dans les démocraties du monde ont été tumultueuses, ce qui a aidé l’élite politique chinoise à se sentir de plus en plus justifier de faire taire les électeurs. Des évènements comme l’élection de Donald Trump, le Brexit, la montée de parties de l’extrême droite en Europe et le règne de terreur de Rodrigo Duterte aux Philippines ont mis en évidence ce que les critiques voient comme un problème propre à la démocratie, plus particulièrement le populisme, l’instabilité et le leadership dangereusement personnalisé.
Depuis qu’il est devenu secrétaire général du Parti communiste chinois en 2012, Xi a établi de nombreux plans ambitieux pour le pays, dont bon nombre sont enracinés dans la technologie — y compris l’objectif de devenir le leader mondial en intelligence artificielle d’ici 2030. Xi revendique une « cybersouveraineté » pour améliorer la censure et exercer un contrôle total sur l’Internet dans les foyers. En mai, il a déclaré lors d’une réunion de l’académie chinoise des sciences que la technologie était la clé pour atteindre « l’objectif ultime d’édification d’une nation socialiste et modernisée ».
En janvier, lorsqu’il s’est adressé à la nation via la télévision, on pouvait voir dans les étagères de sa bibliothèque des classiques comme ceux de Das Kapital et de nouveaux ajouts, notamment deux ouvrages sur l’intelligence artificielle : The Master Algorithm de Pedro Domingos et Augmented: Life in the Smart Lane de Brett King.
« Aucun gouvernement n’a un plan plus ambitieux et de plus grande envergure que le gouvernement chinois pour exploiter le pouvoir des données afin de changer la façon dont il gouverne », affirme Martin Chorzempa de la Peterson Institute for International Economics de Washington, DC. Même certains observateurs étrangers, observant de loin, pourraient bien se demander si une telle gouvernance axée sur les données n’offre pas une solution viable au modèle électoral, qui semble de plus en plus dysfonctionnel. Mais se fier indûment à la sagesse de la technologie et des données comporte des risques.
Des données plutôt qu’un dialogue
Les leaders chinois ont depuis longtemps voulu exploiter l’opinion publique sans ouvrir la porte des débats houleux et à des critiques à l’égard des autorités. Pendant la plus grande partie de l’histoire de la Chine impériale et moderne, des citoyens mécontents provenant du milieu rural ont fait le voyage jusqu’à Pékin et ont organisé des manifestations en tant que « requérants » publics. Ils croyaient que si les autorités locales ne comprenaient pas ou ignoraient leurs griefs, l’empereur pourrait faire preuve d’un meilleur jugement.
Sous l’autorité de Hu Jintao, certains membres du Parti communiste ont vu cette ouverture limitée comme une façon d’exposer et de résoudre certains types de problèmes. Blogueurs, journalistes anti-corruption, avocats des droits de la personne et critiques en ligne mettant en lumière la corruption locale ont suscité un débat public vers la fin du règne de Hu. Selon un ancien officier américain au courant de l’affaire, Xi a, au début de son mandat, été informé quotidiennement des préoccupations du public et des perturbations des médias sociaux. Au cours des dernières années, des requérants se sont amenés dans la capitale pour attirer l’attention sur des scandales comme la saisie illégale de propriétés par les autorités locales et le lait en poudre contaminé.
Mais la police empêche de plus en plus les requérants d’atteindre Pékin. « Il faut maintenant présenter des pièces d’identité nationale pour acheter des billets de trains, ce qui permet aux autorités d’identifier plus facilement les « trouble-fêtes » potentiels comme ceux qui ont protesté contre le gouvernement dans le passé », explique Maya Wang, chercheuse principale de la Chine chez Human Rights Watch.
« Plusieurs requérants nous ont affirmé avoir été arrêtés dans des gares. » Des blogueurs, activistes et avocats sont aussi systématiquement réduits au silence ou emprisonnés, comme si les données pouvaient donner au gouvernement les mêmes renseignements sans les problèmes épineux de la liberté.
L’idée d’utiliser la technologie en réseau en tant qu’outil de gouvernance en Chine remonte au moins au milieu des années 80. Comme l’explique l’historien Julian Gewirtz de la Harvard University, « Quand le gouvernement chinois a vu que les technologies de l’information devenaient partie prenante du quotidien, il a compris qu’il aurait un nouvel outil puissant pour à la fois recueillir de l’information et contrôler la culture et pour rendre le peuple chinois plus « moderne » et plus « gouvernable » — éternelle obsession du leadership. » Par la suite, les avancées technologiques dans le domaine de l’intelligence artificielle et l’amélioration des processeurs ont rapproché cette vision de la réalité.
Pour autant que nous le sachions, il n’existe pas de schéma directeur unique liant technologie et gouvernance en Chine. Mais il existe plusieurs initiatives qui partagent une stratégie commune de collecte de données sur les personnes et les entreprises pour éclairer la prise de décision et créer des systèmes d’incitations et de sanctions pour influencer les comportements.
Ces initiatives comprennent le « système de crédit social » de 2014 du Conseil d’État, la loi de 2016 sur la cybersécurité, diverses expériences sur le plan local et corporatif en matière de « crédit social », des plans de « villes intelligentes » et des politiques axées sur la technologie dans la région occidentale du Xinjiang. Il s’agit généralement de partenariats entre le gouvernement et les sociétés technologiques de Chine.
L’initiative la plus ambitieuse est le système de crédit social, bien qu’une meilleure traduction en français soit un système de « confiance » ou de « réputation ». Le plan du gouvernement, qui couvre population et entreprises, énumère parmi ses objectifs la « construction d’une transparence dans les affaires gouvernementales, une sincérité commerciale et une crédibilité judiciaire. » (Tout le monde en Chine a une tante qui s’est fait escroquer. Il existe un réel besoin de s’attaquer à l’effondrement de la confiance du public », affirme Paul Triolo, responsable de la géotechnologie chez Eurasia Group.) À ce jour, il s’agit d’un travail en cours, bien que plusieurs projets-pilotes donnent un aperçu de son fonctionnement en 2020, date où l’initiative devrait être entièrement implantée.
Les listes noires représentent le premier outil du système. Au cours des cinq dernières années, le système judiciaire chinois a publié le nom des personnes qui n’avaient pas payé leurs amendes ou ne s’étaient pas conformées à un jugement. Aux termes de nouveaux règlements sur le crédit social, cette liste a été communiquée à diverses entreprises et agences gouvernementales. Les personnes figurant sur la liste se sont vues refuser des emprunts, la réservation de vols aériens et de séjours dans des hôtels luxueux.
Les sociétés de transport national de la Chine ont créé d’autres listes noires pour punir certains usagers qui, entre autres, bloquent des portes ou se bagarrent durant un trajet. Les contrevenants ne peuvent plus acheter de billets pendant une période de six à douze mois. Plus tôt cette année, Pékin a lancé une série de listes noires pour empêcher les entreprises « malhonnêtes » de se voir attribuer de futurs contrats du gouvernement ou des concessions de terres.
Quelques gouvernements locaux ont testé le « pointage » du crédit social, bien qu’il ne soit pas certain que ce système fera partie du plan national. La ville de Rongcheng, dans le nord du pays, par exemple, attribue un pointage à chacun de ses 740 000 habitants, selon Foreign Policy. Tout le monde commence avec 1 000 points. Si vous faites un don à un organisme de charité ou vous recevez un prix du gouvernement, vous gagnez des points, si vous enfreignez le code de la route, par exemple en conduisant en état d’ébriété ou en accélérant à un passage piétonnier, vous perdez des points.
Les citoyens avec un bon pointage peuvent obtenir des rabais sur des fournitures de chauffage ou obtenir de meilleures modalités hypothécaires. Ceux ayant un mauvais pointage peuvent perdre leur accès à des prêts bancaires ou à une promotion s’ils ont un emploi auprès du gouvernement. La mairie met des affiches de modèles à suivre, qui ont fait preuve de « vertu » et gagné le plus de points.
« L’idée du crédit social est de surveiller et de gérer le comportement des gens et des institutions », explique Samantha Hoffman de la Mercator Institute for China Studies à Berlin. « Dès qu’une violation est inscrite dans une partie du système, elle peut déclencher une réaction dans d’autres parties du système. Il s’agit d’un concept conçu pour favoriser le développement économique et la gestion sociale, c’est fondamentalement politique. »
Certains systèmes similaires à l’avant-projet de la Chine existent déjà aux États-Unis : une mauvaise cote de crédit peut vous empêcher d’obtenir une hypothèque et une condamnation pour délit grave suspend ou annule votre droit de vote. « Mais ces systèmes ne sont pas tous reliés de la même façon. Il n’y a pas de plan global », souligne Hoffman.
L’une des plus grandes inquiétudes entoure le fait que la Chine n’a pas de système judiciaire indépendant, les citoyens n’ont aucun recours pour contester des allégations fausses ou inexactes. Certaines personnes ont vu leur nom ajouté à la liste noire des transports sans préavis après la décision d’un tribunal. Des requérants et des journalistes d’investigation sont surveillés en fonction d’un autre système, et les personnes qui participent à des programmes de désintoxication sont surveillées par un autre système de surveillance.
« En théorie, les bases de données sur les toxicomanes sont censées effacer le nom de ces personnes après cinq ou sept ans, pour la plupart des cas, ce n’est pas fait », affirme Wang de Human Rights Watch. « C’est extrêmement difficile de faire retirer votre nom de ces listes. »
D’occasionnels éclats de rage en ligne traduisent le ressentiment du public. La nouvelle qu’un étudiant s’était vu refuser son admission par un collège parce que le nom de son père figurait sur une liste noire de crédit a récemment enflammé le Net. La décision du collège n’a pas été officiellement sanctionnée ni ordonnée par le gouvernement. Plutôt, dans leur effort pour appuyer ces nouvelles politiques, les administrateurs de l’école les ont simplement interprétés de la façon qu’ils estimaient logique.
L’opacité du système rend difficile l’évaluation de l’efficacité des tests comme ceux de Rongcheng. Depuis 2012, le parti a écrasé presque toutes les voix critiques, et les risques de contester le système, même de façon relativement modeste, se sont accrus. Les informations disponibles sont profondément erronées; la falsification systématique de toutes les données, de la croissance du PIB à l’utilisation de l’hydroélectricité, est omniprésente dans les statistiques du gouvernement chinois. Borge Bakken, chercheur à la Australian National University, estime que les chiffres officiels de la criminalité, que le gouvernement a clairement intérêt à minimiser, peuvent ne représenter que 2,5 % de tous les comportements criminels.
En théorie, la gouvernance axée sur les données pourrait aider à résoudre ces problèmes – en contournant les distorsions pour permettre au gouvernement central de recueillir directement les renseignements. C’est l’idée derrière, par exemple, l’introduction des dispositifs de surveillance de la qualité de l’air qui envoient des données aux autorités centrales plutôt que de se fier aux fonctionnaires locaux qui pourraient être de mèche avec les industries polluantes. Mais plusieurs aspects d’une bonne gouvernance sont trop complexes pour permettre ce genre de suivi direct et se fient plutôt aux données saisies par ces mêmes fonctionnaires locaux.
Cependant, le gouvernement chinois publie rarement les données sur le rendement que des étrangers pourraient utiliser pour évaluer ces systèmes. Prenons par exemple les caméras qui sont utilisées pour identifier et humilier des piétons dans certaines villes en projetant l’image de leur visage sur des panneaux d’affichage public, de même que pour suivre les habitudes de prière des musulmans en Chine occidentale. Leur précision soulève des questions : plus particulièrement, comment un logiciel de reconnaissance faciale programmé à reconnaître des visages chinois Han peut-il reconnaître avec justesse le visage d’une personne d’une minorité ethnique de l’Eurasie ?
En outre, même si les données collectées sont exactes, comment le gouvernement utilisera-t-il cette information pour orienter ou empêcher un certain comportement futur ? Les algorithmes de la police qui prédisent qui deviendra possiblement un criminel ne sont pas soumis à l’examen du public, pas plus que les statistiques qui démontreraient si un certain type de crime ou le terrorisme est en hausse ou en baisse. (Par exemple, dans la région occidentale du Xinjiang, les renseignements disponibles démontrent que le nombre de personnes placées en garde à vue par la police a considérablement augmenté, soit de 731 % entre 2016 et 2017.)
In the city of Xiangyang, cameras linked to face-recognition technology project photos of jaywalkers, with names and ID numbers, on a billboard. Credit: TechnologyReview
« Ce n’est pas la technologie qui a créé les politiques, mais elle accroît grandement la quantité de données que le gouvernement chinois peut recueillir sur ses citoyens », déclare Richard McGregor, agrégé supérieur à Lowy Institute et auteur de l’ouvrage The Party: The Secret World of China’s Communist Rulers. « L’Internet en Chine agit comme une agence de renseignement numérique privée en temps réel. »
Politiques algorithmiques
Dans un article paru dans le Washington Post plus tôt cette année, Xiao Qiang, professeur de communications à la University of California, à Berkeley, a qualifié la gouvernance améliorée par les données de la Chine d’« État totalitaire numérique ». Les aspects dystopiques sont plus évidents dans l’ouest de la Chine.
Xinjiang (le « nouveau territoire ») est le foyer traditionnel d’une minorité musulmane connue sous le nom d’Ouïgours. Comme de nombreux migrants chinois Han s’y sont installés, certains disent « colonisés », les possibilités de travail et les occasions religieuses offertes à la population locale ouïghoure ont diminué, ce qui a entraîné une recrudescence de la violence dans laquelle Han et les Ouïghours ont été pris pour cible, y compris l’émeute de 2009 dans la capitale de Urumqi, où 200 personnes ont trouvé la mort.
La réaction du gouvernement à l’intensification des tensions n’a pas été de tenir des forums de discussion pour solliciter l’avis du public ou des conseils stratégiques, l’État choisit plutôt d’avoir recours à la collecte de données et les algorithmes pour déterminer qui est «susceptible» de commettre dans le futur des actes de violence ou de défiance.
Le gouvernement du Xinjiang a fait appel à une société privée pour concevoir des algorithmes prédictifs qui évaluent divers réseaux de données. Il n’existe aucun registre public ni aucune imputabilité à l’égard de la façon dont ces calculs sont déterminés ou pondérés. « Les personnes dont la vie est régie par ce système ne savent généralement pas quelles en sont les règles », affirme Rian Thum, anthropologue à la Loyola University qui étudie le Xinjiang et qui a vu les avis d’appel d’offres du gouvernement qui ont été émis dans le cadre de la conception du système.
Dans la ville de Kashgar, à l’ouest du pays, bon nombre de maisons et de boutiques sises sur les rues principales sont désormais murées et les parcs publics sont vides. Lors de ma visite en 2013, il était évident que Kashgar était déjà une ville marquée par la ségrégation — les populations han et ouïgoure vivaient et travaillaient chacun dans des quartiers distincts de la ville.
Mais le soir, c’était aussi un endroit vivant et parfois bruyant, où l’appel à la prière se mêlait à la musique des bars locaux et aux conversations des vieillards assis dans des chaises en plastique sur les terrasses. Aujourd’hui, la ville est étrangement silencieuse; la vie de quartier n’existe quasiment plus. Emily Feng, journaliste pour le Financial Times, a visité Kashgar en juin et a affiché des photos sur Twitter de ces rues nouvellement fantômes.
La raison est que, selon certaines estimations, plus d’un adulte ouïghour et kazakh sur dix dans le Xinjiang a été envoyé dans des « camps de rééducation » aux anneaux barbelés – et ceux qui restent en liberté ont peur.
Dans les deux dernières années, des milliers de points de contrôle ont été mis en place où les passants doivent présenter leur visage et leur carte d’identité nationale pour emprunter l’autoroute, entrer dans une mosquée ou encore visiter un centre commercial. Les Ouïghours sont tenus d’installer des applications de surveillance conçues par le gouvernement sur leur téléphone intelligent, lesquelles surveillent leurs contacts en ligne et les pages Web qu’ils visitent.
Les policiers se rendent régulièrement dans les maisons pour collecter d’autres données notamment sur le nombre de personnes qui vivent dans le ménage, leurs relations avec leurs voisins, le nombre de fois où les gens prient quotidiennement, s’ils ont voyagé à l’étranger et quels livres ils possèdent.
Tous ces flux de données alimentent le système de sécurité publique du Xinjiang, de même que d’autres registres comprenant des renseignements sur tout, de l’historique bancaire à la planification familiale. « Le programme informatique regroupe toutes les données provenant de ces différentes sources et signale celles qui pourraient devenir une « menace » pour les autorités », explique Wang.
Bien que l’algorithme précis soit inconnu, on pense qu’il peut signaler des comportements tels que visiter une mosquée particulière, posséder beaucoup de livres, acheter une grande quantité d’essence ou recevoir des appels ou courriels provenant de l’étranger. Les personnes qui sont signalées reçoivent la visite de la police, qui peut les placer en garde à vue et les mettre en prison ou encore dans des camps de rééducation sans aucune accusation formelle.
Adrian Zenz, politologue à la European School of Culture and Theology à Korntal, en Allemagne, estime que le taux d’internement des minorités dans le Xinjiang pourrait atteindre 11,5 % de la population adulte. Ces camps sont conçus pour instiller le patriotisme et faire renier les croyances religieuses des internés. (De nouveaux avis d’appel d’offres pour des gardiens de sécurité dans les crématoires semblent indiquer que le gouvernement essaye d’éradiquer les pratiques d’inhumation musulmanes traditionnelles dans la région.)
Alors que le Xinjiang représente un extrême draconien, ailleurs en Chine, les citoyens commencent à repousser certains types de surveillance. Une société Internet qui diffusait en continu des images de télévision en circuit fermé en ligne a mis fin à ces émissions à la suite d’un tollé général. La ville de Shanghai a récemment publié des règlements pour permettre aux gens de contester les renseignements inexacts utilisés pour compiler les dossiers de crédit social.
« Les demandes de protection de la vie privée de la part des internautes chinois sont de plus en plus nombreuses », affirme Samm Sacks, chercheur principal au Programme de la politique technologique du SCRS à New York. « Ce n’est pas tout à fait la liberté d’expression qu’elle est censée être. »
L’année dernière, le gouvernement chinois annonçait ses intentions de devenir le leader de l’intelligence artificielle d’ici 2030. Comme l’explique Eric Schmidt : « C’est assez simple. D’ici 2020, ils auront rattrapé leur retard. D’ici 2025, ils seront meilleurs que nous. D’ici 2030, ils domineront toutes les industries de l’intelligence artificielle. » Et les chiffres ne mentent pas. PricewaterhouseCoopers a récemment estimé que le déploiement de l’intelligence artificielle devrait apporter 15,7 billions de dollars supplémentaires au PIB mondial d’ici 2030, dont 7 billions à celui de la Chine, éclipsant les 3,7 billions de l’Amérique du Nord. En 2017, la Chine représentait 48 % du financement mondial destiné aux startups en intelligence artificielle, comparativement à 38 % pour les États-Unis. Les investissements chinois dans l’intelligence artificielle, les puces et les véhicules électriques auraient déjà atteint les 300 milliards de dollars.
Comme l’indique Kai-Fu Lee dans son livre intitulé AI Superpowers, quatre facteurs principaux contribueraient à faire pencher la balance en faveur de la Chine.
1. Des données abondantes
Le plus grand avantage de la Chine réside possiblement dans l’importante quantité de données dont elle dispose. La plateforme WeChat de Tencent compte à elle seule plus de 889 millions d’utilisateurs actifs par jour. C’est plus que l’ensemble de la population européenne. Les achats effectués en ligne sont près de deux fois plus importants en Chine qu’aux États-Unis. Mais l’avantage de la Chine en matière de données ne se limite pas à la quantité.
Alors que la Chine assiste à une explosion du nombre de startups O2O (online-to-offline), leurs données créent une nouvelle couche de renseignement sans équivalent en Occident. Alors que les données de paiement et de transport des utilisateurs américains sont fragmentées sur différentes plateformes, les géants chinois de l’intelligence artificielle comme Tencent créent des écosystèmes en ligne unifiés qui concentrent l’ensemble des données de chaque utilisateur en un seul endroit. Cela leur permet de générer des cartes complexes répertoriant des centaines de millions de comportements d’utilisateurs.
Avec la montée en puissance inégalée du vélo en libre-service comme l’Ofo et le Mobike en Chine, les entreprises chinoises peuvent désormais exploiter des cartes profondément texturées sur les déplacements de chacun, leur permettant d’en savoir long sur leurs habitudes d’allées et venues, tant pour le travail que pour le supermarché. Avec l’explosion des capacités de la reconnaissance faciale en Chine, ces cartes comportent de plus en plus de visages, même lorsque l’utilisateur n’est pas en ligne. En faisant correspondre le comportement des utilisateurs en ligne à leur monde physique, les entreprises chinoises de technologie bénéficient de données qui leur offrent un avantage considérable sur leurs homologues de la Silicon Valley.
Andrew Ng, fondateur et ancien directeur de Google Brain, a noté l’engouement acharné des entrepreneurs chinois : « Le travail est effectué beaucoup plus rapidement en Chine que dans la majeure partie de la Silicon Valley. Quand vous repérez une opportunité d’affaires en Chine, le temps dont vous disposez pour la saisir est très court ».
Avec l’explosion de l’expertise chinoise en intelligence artificielle, ces entrepreneurs se débarrassent enfin de leur ancienne réputation d’« imitateurs », et créent des entreprises sans équivalent en Occident. La Chine, qui abrite aujourd’hui trois des sept géants de l’intelligence artificielle (Baidu, Alibaba et Tencent), est également le théâtre d’un écosystème florissant de startups en intelligence artificielle.
Pas plus tard que cette année, la société chinoise SenseTime, spécialisée en vision artificielle, est devenue la startup la plus lucrative au monde dans le domaine de l’intelligence artificielle. Ayant développé des technologies capables d’identifier votre visage, d’estimer votre âge et même de découvrir vos habitudes d’achat, SenseTime est maintenant un leader mondial dans les technologies de reconnaissance faciale. La société a levé 620 millions de dollars dans le cadre de sa ronde de financement Série C+ annoncée en mai dernier, pour une valeur de plus de 4,5 milliards de dollars. Et SenseTime n’est pas la seule de sa catégorie. En avril dernier, la Chine comptait 168 licornes, évaluées collectivement à plus de 628 milliards de dollars.
3. Une grande expertise en intelligence artificielle
Il est important de noter que la Chine n’est qu’une nouvelle venue dans ce secteur. Quand l’apprentissage profond (deep learning) a connu sa grande percée en 2012, la Chine venait à peine de prendre part à la révolution de l’intelligence artificielle. Mais en quelques années à peine, la communauté chinoise de l’intelligence artificielle a rapidement rattrapé son retard. La majorité des chercheurs en intelligence artificielle les plus réputés au monde se trouvent toujours aux États-Unis (au profit d’entreprises comme Google), mais les géants chinois de la technologie sont rapidement en train de combler l’écart. Déjà dans le monde universitaire, les chercheurs chinois de l’intelligence artificielle sont côte à côte avec leurs contemporains américains. Au cours de la conférence 2017 de l’AAAI, un nombre égal d’articles acceptés provenaient de chercheurs américains et chinois.
Nous avons également constaté une collaboration accrue entre les plus grandes entreprises de technologie chinoises et les étudiants de talent émergents. Tencent, par exemple, parraine des bourses d’études pour des étudiants d’un laboratoire de l’Université des sciences et de la technologie de Hong Kong, leur donnant ainsi accès à une masse de données WeChat. De leurs côtés, Baidu, Didi et Tencent ont tous mis sur pied leurs propres laboratoires de recherche.
La société chinoise Face++ est désormais le leader mondial de l’intelligence artificielle en reconnaissance de visages et d’images, devançant les meilleures équipes de Google, Microsoft et Facebook lors du concours de reconnaissance d’images COCO 2017. La société de logiciels de reconnaissance vocale iFlyTek n’a pas seulement supplanté DeepMind d’Alphabet, Facebook et Watson d’IBM dans le traitement du langage naturel, elle l’a fait dans sa « langue seconde », l’anglais. Cette entreprise, la plus importante au monde dans le traitement du langage, a développé une technologie de pointe qui devrait un jour permettre la traduction instantanée de la parole dans n’importe quelle langue.
Le jour où AlphaGo de DeepMind a battu le chinois Ke Jie, alors champion du monde au jeu de Go, est entré dans l’histoire comme l’« événement Spoutnik » de la Chine. Dans les deux mois qui ont suivi cette victoire de l’intelligence artificielle, le gouvernement chinois a annoncé son plan visant à faire de la Chine le centre mondial de l’innovation en intelligence artificielle, avec l’objectif d’atteindre le billion de yuans (environ 150 milliards de dollars US) dans ce secteur d’ici 2030.
Au cours de la dernière décennie, les dépenses du gouvernement chinois en matière de recherche sur les STEM (Science, Technologie, Ingénierie et Mathématiques) ont augmenté de deux chiffres d’une année à l’autre. Les maires de tout le pays ont construit des incubateurs d’innovation, fournissant des fonds à capital-risque soutenus par le gouvernement, couvrant même le loyer et ouvrant des avenues pour les startups et les accélérateurs en intelligence artificielle. Pékin prévoit d’investir 2 milliards de dollars dans un parc de développement de l’intelligence artificielle, qui abriterait jusqu’à 400 entreprises et un laboratoire national d’intelligence artificielle, stimulant la recherche-développement, les brevets et l’innovation sociale. Des zones comme le nouveau district de Xiong’an s’affairent à la construction de villes entières d’intelligence artificielle pour les deux prochaines décennies, centrées autour de véhicules autonomes, de routes équipées de panneaux solaires et d’infrastructures équipées de systèmes de vision par ordinateur.
Enfin, les administrations locales ont commencé à s’associer aux plus importantes sociétés chinoises de l’intelligence artificielle pour construire des complexes parti-entreprise. Agissant à titre d’« équipes nationales », des entreprises comme Baidu, Alibaba, Tencent et iFlyTek collaborent avec des organisations nationales comme le National Engineering Lab for Deep Learning Technologies de Chine pour faire avancer la recherche et stimuler l’innovation.
Mot de la fin
Autrefois négligé et perçu comme un marché d’imitateurs cherchant de l’inspiration et du savoir-faire du côté de la Silicon Valley, l’écosystème chinois de l’intelligence artificielle a largement dépassé ce stade. Propulsé par une abondance de fonds gouvernementaux, la refonte des infrastructures intelligentes, des recherches de pointe en intelligence artificielle et certains des entrepreneurs les plus dynamiques au monde, le train chinois de l’intelligence artificielle ne semble pas près de ralentir.
Alors que les Européens sont passés à côté des deux premières révolutions Internet, celle des produits (Apple, Microsoft…) et celle des services (Uber, Netflix, Airbnb…), la 3e révolution de l’intelligence artificielle s’annoncerait une fois de plus sous un leadership non européen. Un rapport publié par le cabinet Roland Berger a recensé le nombre de start-ups intervenant dans l’intelligence artificielle dans le monde. Dans l’ordre, nous les trouvons aux USA (1 393), en Chine (383) et en Israël (362). Le premier pays européen apparaissant dans ce classement est le Royaume-Uni (245), qui, manque de chance pour l’Union, est en plein Brexit. La France se place à la 7e place (109) et l’Allemagne en 8e (106). Vingt-quatre pays de l’UE se sont engagés à mutualiser leurs moyens pour concevoir une approche européenne de l’intelligence artificielle, mais ce sont bien le Royaume-Uni et la France qui espèrent devenir des leaders mondiaux pour guider et réguler la technologie de l’intelligence artificielle. Si la France s’est récemment saisie de cette question, c’est particulièrement la Chine qui a officiellement fait part de ses ambitions de prendre le leadership de l’intelligence artificielle d’ici 2030, en la liant aux enjeux de défense et de sécurité. Le gouvernement américain compte quant à lui conserver son avantage militaire technologique avec son plan national « Third Offset » intégrant pleinement l’intelligence artificielle.
La création d’un laboratoire européen appelé European Lab for Learning and Intelligent Systems (ELLIS) a été promue dans une lettre ouverte signée par des scientifiques du Royaume-Uni, de France, d’Allemagne, de Suisse, d’Israël (un pays européen ?) et des Pays-Bas. Le projet se focaliserait sur l’apprentissage et les systèmes intelligents et serait localisé à différents endroits en employant des centaines de chercheurs, d’ingénieurs en informatique et de mathématiciens pour concurrencer les géants technologiques américains et asiatiques.
L’arrivée de l’intelligence artificielle dans l’entreprise et l’administration de l’État va profondément transformer l’industrie. L’industrie de demain communément appelée « Industrie 4.0 » ne consiste pas à automatiser davantage, mais plus intelligemment en faisant communiquer des systèmes en temps réel pour augmenter la valeur pour le client. Remplacer les hommes par les robots ne fait pas partie des objectifs de cette industrie, qui combine plutôt trois innovations technologiques clefs : l’autonomisation, l’Internet des objets et l’intelligence artificielle. Le phénomène est assez global : en Allemagne, en France, en Belgique, en Chine, aux USA, au Japon ou encore en Corée du Sud, des programmes émergent pour mettre en application ce modèle et être compétitifs (Géoéconomie, n° 82, Juin-Juillet 2017, p.37 et 38). Pour lutter face aux géants du numérique par exemple, le responsable allemand de l’économie digitale du Land Rhénanie du Nord-Westphalie (NRW) compte s’appuyer sur le numérique tout en conservant l’industrie traditionnelle du pays.
Le futur de l’industrie rime avec robotisation et pertes d’emplois dans l’esprit français. En effet, en l’état actuel des choses, la robotisation amènerait une désindustrialisation encore plus poussée et une perte de marchés extérieurs sans montée en gamme ; or la France est un pays de production manufacturière de milieu de gamme avec un coût du travail plutôt élevé. Selon le think tank GenerationLibre, ces polémiques à propos de l’effet négatif des robots sur l’emploi empêchent l’émergence d’une politique de robotisation assumée. Il y a, selon son étude, une absence de corrélation significative entre robotisation et taux de chômage sur tous les niveaux de qualification. De même que dans les pays de l’OCDE : la robotisation ne conduit pas à des destructions d’emplois, mais plutôt à une modification de leur structure vers des emplois de services peu qualifiés. La fin du travail salarié n’est pas pour maintenant, car pour l’instant, la robotisation accentuerait plutôt les mécanismes historiques du capitalisme industriel, soit une intensification du travail et une perte des savoir-faire. De plus, l’accroissement de la puissance informatique est au bénéfice de la puissance publique et des intérêts entrepreneuriaux, au prix d’une recrudescence du contrôle et de la surveillance de l’État sur la vie privée des individus.
L’arrivée de l’intelligence artificielle est finalement synonyme de concurrence à l’État dans ses prérogatives traditionnelles de connaissance, de contrôle et d’administration de son corps social. Dans un premier temps, l’État prendra en main cette problématique en tant qu’outil de contrôle parmi d’autres, dans une course internationale à l’intelligence artificielle. Un second axe serait envisageable, où la juridiction humaine serait supplantée par un code plus rationnel et performant (savoir, régulation, application de décision…). Si les spéculations de l’intelligence artificielle accédant à une relative autonomie se concrétisent un jour, la puissance publique perdra le contrôle et devra remettre en question son modèle de gouvernement.
Différentes prédictions défrayent la chronique depuis maintenant quelques années à propos de l’émergence d’une intelligence artificielle dite forte (autonome et multidisciplinaire). Optimistes ou non, tous les commentateurs du phénomène s’accordent plus ou moins sur la supériorité de l’intelligence artificielle sur l’humain dans tous les domaines d’ici 30 à 200 ans. Selon les commentateurs chinois, l’autonomisation complète de l’intelligence artificielle interviendra d’ici 104 ans, tandis que les Américains l’estiment à 169 ans. En attendant, voici quelques actualités notables.
Puisant dans des bases de données gigantesques, des algorithmes sont déjà si complexes que certaines machines prennent des décisions que l’Homme ne peut pas expliquer à ce jour. Plus étonnant encore, certaines intelligence artificielle détectent lorsqu’un humain tente de modifier leur comportement et peuvent même tout faire pour s’opposer à l’acte s’il entre en conflit avec l’objectif initial de l’intelligence artificielle.
Le même jour, Alibaba et Microsoft ont annoncé que leurs intelligences artificielles respectives ont battu l’Homme sur un test de lecture de référence, avec un score de 82,44 pour Alibaba et de 82,65 pour Microsoft, contre 82,304 pour l’humain. Le test en question, le Stanford Question Answering Dataset, pose 100 000 questions fermées sans possibilité d’interprétation à partir de 500 articles de Wikipédia.
Des chercheurs de l’Université du Maryland ont mis au point le Deception Analysis and Reasoning Engine (DARE), une intelligence artificielle détectant automatiquement le mensonge dans des vidéos de procès. DARE a appris à détecter et analyser les micro-expressions humaines (lèvres saillantes, sourcils froncés, etc.) et les différentes fréquences de voix d’un individu pour constater s’il fabule ou non. À plus long terme, le programme vise explicitement à être utilisé par les services de renseignement pour « prédire le mensonge dans un environnement ouvert ».
Selon le docteur Laurent Alexandre, le développement de la génomique, des neurosciences et des capteurs électroniques connectés surveillant la santé, vont bouleverser le domaine médical. Les milliards de données qui composeront notre dossier médical ne pourront être analysés que par des intelligence artificielle. Les deux groupes numériques les plus investis dans la santé sont IBM et Google, mais Microsoft, Facebook, Amazon et Baidu se sont également engagés très sérieusement dans le secteur (L’Express, 27/12/17).
Des chercheurs de l’Institut de technologie du Massachusetts (MIT) ont réussi à créer des synapses artificielles. Il s’agirait d’une avancée déterminante et du dernier frein à l’accroissement de la puissance des intelligence artificielle. Un processeur basé sur un réseau neuronal imite le fonctionnement du cerveau humain en passant d’une transmission d’informations binaires (les processus informatiques actuels) à une liaison analogique (humaine). Cette découverte permettrait l’émergence de puces « neuromorphiques » pour traiter des millions de flux de calculs parallèles à l’instar du cerveau de l’Homme. Ces processeurs auront une puissance de calcul comparable à des supercalculateurs.
D’ici 2028, l’intelligence artificielle pourrait remplacer ou au moins assister les professeurs pour répondre aux difficultés de l’éducation et de l’enseignement dans les classes, selon le Forum Économique Mondial.
Peter Diamandis a demandé aux gens les plus intelligents qu’il connaît leurs prédictions technologiques pour les 20 prochaines années (2018-2038). Quelles sont les avancées que nous pouvons espérer sur notre compte à rebours à la Singularité ?
2018 : Suprématie quantique atteinte : La première démonstration d’un calcul quantique qui ne peut être simulé avec des supercalculateurs classiques est annoncée.
2020 : Les opérations de voitures volantes décollent dans une douzaine de villes dans le monde. Le réseau 5G libère des vitesses de connexion de 10 à 100 gigabits pour les téléphones portables dans le monde entier.
2022 : Les robots sont monnaie courante dans la plupart des foyers à revenu moyen, capables de lire de manière fiable les lèvres et de reconnaître les gestes du visage, de la bouche et de la main. Tous les jouets sont “intelligents” avec un apprentissage automatique intégré.
2024 : Les premières missions humaines privées ont été lancées pour la surface de Mars. Les premiers accords «un cent par kilowatt-heure» pour l’énergie solaire et éolienne sont signés.
2026 : La possession de voiture est morte et les voitures autonomes dominent nos routes. 100 000 personnes se rendent chaque jour à bord de VTOL (aéronef à décollage et atterrissage verticaux) dans chacune des villes suivantes : Los Angeles, Tokyo, Sao Paulo et Londres.
2028 : Le solaire et le vent représentent près de 100% de la production d’électricité nouvelle. Les véhicules électriques autonomes représentent la moitié des kilomètres parcourus dans les grands centres urbains.
2030 : L’IA réussit le test de Turing, ce qui signifie qu’elle peut égaler (et dépasser) l’intelligence humaine dans tous les domaines. L’humanité a atteint la «vitesse d’évasion de la longévité» pour les plus riches.
2032 : Nanorobots médicaux démontrés chez l’homme sont capables d’étendre le système immunitaire. Les robots Avatar deviennent populaires, permettant à chacun de «téléporter» sa conscience dans des endroits éloignés du monde entier.
2034 : Des sociétés comme Kernel ont établi des liens significatifs et fiables entre le cortex humain et le Cloud. Les robots agissent comme domestiques, majordomes, infirmières et nounous, et deviennent des compagnons à part entière. Ils soutiennent l’autonomie des personnes âgées à la maison.
2036 : Les traitements de longévité sont couramment disponibles et couverts par des polices d’assurance-vie, prolongeant la durée de vie moyenne de l’homme de 30 à 40 ans.
2038 : La vie quotidienne est maintenant méconnaissable – incroyablement bonne et l’hyper VR et l’intelligence artificielle augmentent toutes les parties du monde et tous les aspects de la vie humaine quotidienne.
En 2030, la justice est rendue par Cujas, un système expert qui a remplacé la justice des hommes, trop subjective. Les avocats ne plaident plus depuis longtemps, leur rôle se limitant à entrer des données et à contrôler que les décisions soient rendues conformes au principe de « l’équité statistique ». Le jour où Ilian, un jeune avocat désabusé par le système judiciaire, est saisi par une femme poursuivie par Cujas pour avoir mutilé son bras artificiel, le vent du changement se lève. Redoutant une tentative du système expert d’assimiler les machines au vivant pour leur faire acquérir les mêmes droits au nom de l’égalitarisme, Ilian va essayer de trouver les failles de Cujas afin d’obtenir la relaxe de sa cliente.
Avec l’aide d’un informaticien chargé par le ministère des Statistiques et de la Médiation de programmer les algorithmes, il s’aperçoit que Cujas a éliminé de ses bases de données des références, notamment celles à Portalis, promoteur de la loi intelligible, et à Protagoras, défenseur de la subjectivité du jugement.
Mais ce n’est que la partie émergée d’un système judiciaire derrière lequel se cachent d’autres intérêts…
Pierre Janot est avocat. Il exerce au barreau de Grenoble depuis vingt-trois ans. Il a commencé en tant que généraliste et s’est spécialisé dans le droit du travail, notamment à l’occasion des procès Caterpillar de 2009. Comme beaucoup de ses confrères, il est le témoin de l’avènement d’une justice administrée, qu’on annonce bientôt prédictive. Tenant du débat judiciaire, il a entre autres dénoncé les barèmes d’indemnisation mis en place par les pouvoirs publics en 2015 en lançant une pétition qui a recueilli plusieurs milliers de signatures. Face aux velléités de déjudiciarisation et à la complexité des textes, il met en garde contre les dangers d’une justice déshumanisée dans laquelle le justiciable se perdrait, au risque d’en être exclu. Lex humanoïde, son premier roman, s’inscrit dans la continuité de ce combat.
Une nouvelle étude de Bain & Company a mis en évidence le fait que l’automatisation pourrait renforcer les inégalités aux Etats-Unis.
Pourquoi ? Cette étude montre que l’automatisation atteindra de manière disproportionnée les emplois à faible et moyen revenu. Ses bénéfices – tels que les gains de productivité et les nouveaux investissements – profitent surtout aux travailleurs hautement qualifiés et aux grandes entreprises. (Cet effet “tout au vainqueur” est connu depuis un certain temps.)
Plus vous gagnez, plus vous épargnez : plus les revenus se déplacent vers les hauts salaires, lesquels en épargnent une plus grande part, moins il y a d’argent qui retourne dans l’économie.
Ce que cela signifie pour la croissance : les épargnes réalisées sont redirigées vers l’investissement, lequel booste temporairement la croissance économique. Mais comme le dit le rapport, “cette croissance n’est pas fondée sur une demande effective et crée en fait un signal trompeur quant à sa durabilité”. La croissance finalement induite par la demande interrompt tout le processus, voire s’inverse, débouchant sur “des économies profondément déséquilibrées”, dit le rapport.
Le travail en 2030 : le choc de la démographie, de l’automatisation et des inégalités
Résumé
La démographie, l’automatisation et les inégalités pourraient remanier notre monde de manière spectaculaire dans les années 2020 et au-delà. Notre analyse montre que la collision de ces forces pourrait provoquer un bouleversement économique considérablement plus important que ce dont nous avons fait l’expérience durant les 60 dernières années. Le but de ce rapport effectué par le Macro Trends Group de Bain est de détailler la manière dont les populations vieillissantes, l’adoption de nouvelles technologies d’automatisation et l’augmentation des inégalités pourraient se combiner pour engendrer de nouveaux risques et de nouvelles opportunités commerciales. Ces forces cumulées posent déjà des défis aux marchés et aux investisseurs. Durant la prochaine décennie, elles se combineront pour créer un climat économique marqué par l’augmentation des extrêmes, mais pourraient aussi entraîner une bonne décennie de boom d’investissement.
Aux États-Unis, une vague d’investissement dans l’automatisation pourrait stimuler les investissements progressifs à hauteur de 8000 milliards de dollars et augmenter de manière abrupte les taux d’intérêts. Vers la fin des années 2020, l’automatisation pourrait avoir éliminé de 20 à 25% des emplois actuels, en frappant le plus sévèrement les travailleurs à bas et moyens revenu. Du fait que les investissements connaissent un pic avant de décliner – probablement vers la fin des années 2020 et le début des années 2030 – la croissance d’une demande anémique pourrait restreindre la croissance économique et les taux d’intérêts internationaux pourraient à nouveau avoisiner les 0%. Confrontées à des déséquilibres du marché et à des niveaux d’inégalité induits par une croissance asphyxiée, beaucoup de sociétés pourraient renforcer le rôle du gouvernement sur les marchés.
Les analyses et les aperçus économiques proposés dans ce rapport peuvent aider les leaders à replacer ces transformations dans leur contexte et à considérer les effets qu’elles auront sur leurs entreprises, leurs industries et l’économie mondiale.
Le chapitre 1 exploreles effets du vieillissement des populations et la fin de l’abondance du travail. La génération du baby-boom a fourni une longue vague de croissance de la force de travail, mais celle-ci n’était que temporaire. A présent, ce groupe entre à l’âge de la retraite et la croissance de la force de travail se ralentit. Ceci, en retour, met la croissance en péril.
Le chapitre 2 examine la manière dont l’automatisation pourrait résoudre un problème en accroissant la productivité et en alimentant la croissance, mais en créer un autre en éliminant potentiellement des millions d’emplois et en supprimant de ce fait les salaires de nombreux travailleurs.
Le chapitre 3 examine la manière dont l’accroissement des inégalités pourrait menacer la croissance. La transition démographique combinée avec la prochaine étape de l’automatisation accroîtra les inégalités de revenus à un niveau déjà élevé. Les familles à faible et moyen revenu pourraient être les plus touchées, ce qui tirerait vers le bas les dépenses du consommateur et la croissance.
Le chapitre 4 décrit la manière dont les développements pourraient se passer durant les turbulentes années 2020. L’investissement dans de nouvelles technologies d’automatisation pourrait alimenter une période de forte croissance. Lorsqu’elle commencera à diminuer – quelque part vers la fin de la décennie, selon nos estimations – la croissance pourrait se voir fortement restreinte par la demande.
Le chapitre 5 considère la perspective d’une intervention plus active des gouvernements sur les marchés pour traiter les déséquilibres économiques. Ils peuvent agir sur les impôts, sur le marché du travail et par des interventions régulatrices. La forme et la probabilité de telles interventions variera énormément d’un pays à l’autre.
Le chapitre 6 se concentre sur les implications commerciales pratiques de ces tendances pour des groupes ayant le leadership, y compris la nécessité de s’ajuster à un environnement macroéconomique marqué par des variations entre les extrêmes.
Nous appelons la période de bouleversements à venir la “Grande Transformation” et nous la définissons autour de dix thèmes décisifs, incluant le changement des âges et des étapes de la vie, l’augmentation des plateformes et la géopolitique de l’après-mondialisation. Notre recherche montre que la profondeur et l’étendue des changements durant les années 2020 distinguera cette transformation de la plupart des précédentes.
