« We don’t know when to say enough or even hold on a second » Nicholas Carr.

L’île Igloulik, au Nord du Canada, est un territoire hostile où règne parfois des températures inférieures à – 20 ^oC. Pourtant, depuis au moins 4000 ans les Inuits y chassent le caribou. Depuis que leurs pratiques sont documentées, ils fascinent par leur capacité d’orientation, leur connaissance des vents, du comportement animal, de la texture de la neige, etc.

Au début des années 2000, ces mêmes chasseurs ont commencé à utiliser le GPS. Alors que par le passé il fallait un long apprentissage auprès des anciens pour développer le sens de l’orientation dans un environnement hostile, ce dispositif qui rend les techniques traditionnelles obsolètes n’en nécessite quasiment plus. Seulement, la confiance aveugle dans ce système et l’effet tunnel induit provoqua bientôt des accidents durant la chasse engendrant blessures et décès.

Dans The glass cage (non traduit en français) Nicholas Carr souhaite éclairer comment notre dépendance grandissante aux ordinateurs, aux applications et à la robotique façonnent notre travail, nos talents et nos vies. En cela, il ouvre une fenêtre sur le coût humain de l’automatisation¹.

Très discuté dans le monde anglo-saxon, Nicholas Carr est l’auteur de plusieurs ouvrages et de nombreux articles dans des journaux aussi prestigieux que Harvard Business Review, MIT Sloan Management Review, The Atlantic, etc². Son blog Rough type explore des sujets aussi divers que l’économie, la culture et bien sûr la technologie³.

The glass cage est construit autour de l’idée que nous surestimons les bénéfices de l’automatisation. En transférant à la machine une part des expériences qui nous permettent de nous accomplir, l’automatisation affecte nos actions, détériore nos compétences, notre santé. En touchant à la substance même de nos vies, le choix de l’automatisation n’est pas simplement économique, il est aussi éthique.

Déjà au XVIII^e siècle, avec la révolution industrielle, le spectre du remplacement de l’homme par la machine hantait les sociétés et les individus. Aujourd’hui, l’automatisation fait craindre aux État-Unis, mais pas seulement, une croissance sans emploi.

C’est durant la seconde guerre mondiale, au sein de la défense anti-aérienne, que le nouvel âge de l’automatisation (un dispositif mécanique permettant d’automatiser une tâche) aurait pris forme. Elle est née d’un problème crucial : comment atteindre un avion ennemi, dans sa position probable à venir ?

Dans l’après-guerre, son couplage avec l’ordinateur étend ses potentialités. Depuis les années 1970, elle a fait des progrès prodigieux, elle est omniprésente. Nous dépendons d’elle.

Pour Nicholas Carr, la meilleure façon d’observer l’impact de l’automatisation à venir dans notre société est de regarder sa forme avancée dans l’aviation. Jusqu’aux années 1980, le pilotage était exclusivement réalisé par le pilote. Avec la naissance de l’A320, l’histoire de l’aviation et celle des ordinateurs se recoupent. Durant un vol commercial typique, le pilote ne prend les commandes que pendant trois minutes – une partie de l’équipage a aussi disparu du cockpit. Si l’automatisation a permis de diminuer les crashs (2 décès pour cent millions de passagers), elle masque une dégradation des compétences du pilote, l’altération de sa perception et de son temps de réaction.

« As automation has gained in sophistication, the role of the pilot has shifted toward becoming a monitor or supervisor of the automation. »

Dans la médecine comme dans l’aviation, l’omniprésence de l’ordinateur modifie déjà en profondeur la relation du patient au soignant, le diagnostic, etc. Ce phénomène touche aussi la finance, le droit, l’architecture, etc.

Selon Nicholas Carr, l’automatisation, nous coupe de l’expérience du réel, de notre savoir-faire, notre créativité.

« How far from the world do we want to retreat ? »

De la même manière, avec les algorithmes prédictifs qui ignorent les causes, notre désir de comprendre le monde s’érode, ce qui en retour altère notre capacité d’étonnement, notre sagesse. Comment briser cette cage de verre, sans renoncer aux bénéfices du numérique ?

Bien que la machine ne soit pas exempt de biais cognitifs, qu’elle introduise de nouveaux problèmes (bugs, vulnérabilités, etc.), il semble qu’il soit tentant d’exclure de l’équation le facteur humain, souvent considéré comme faillible. Les ingénieurs créent des machines qui laissent peu de place à l’humain. Dans un processus autoréalisateur, le travail qui en résulte, vidé de sa substance, ne nécessitant pas de compétences spécifiques, alimente l’idée que l’homme n’a pas sa place.

Les choix de Boeing dans l’aviation de favoriser le rôle du pilote au détriment de la machine ou l’usage du programme THOR par la Royal Bank of Canada qui ralentit les transactions financières pour éviter une emprise trop grande de l’algorithme montrent que l’arbitrage entre une technologie centrée sur elle-même ou celle centrée sur l’humain n’est pas uniquement une préoccupation académique.

De manière plus générale, Nicholas Carr recommande une vigilance accrue sur les motivations éthiques, politiques, commerciales, économiques de ceux qui régissent nos vies, infiltrent nos désirs et actions, déterminent nos limites via les programmes afin de garder une prise sur nos intentions, particulièrement lorsque l’automatisation est invisible, le code opaque.

Nicholas Carr ne se considère pas comme technophobe. La technologie est selon lui notre nature. Au travers de nos outils, nous donnons forme à nos rêves. L’instrument contribue à cultiver notre talent, modifiant le monde, apportant de nouvelles opportunités. Au meilleur d’elle même, la technologie ouvre de nouveaux horizons. Il voit ainsi dans la faux la métaphore d’un modèle de technologie qui étend nos capacités sans circonscrire la portée de nos actions et perceptions. A contrario, les outils digitaux de l’automatisation, plutôt que de nous inviter dans un monde, nous en expulsent.

Si l’intelligence artificielle stimule notre vue, elle assèche nos autres sens. Le monde devient moins signifiant.

Trop laconique sur la manière de s’extraire de cette cage de verre, il conclut que nous sommes libres de créer des outils qui humanisent la technologie mais cela requière de la vigilance et du soin…