Skip to content

DeepMind et Google : la bataille pour contrôler l’IA

Il y a une lutte de pouvoir à l’intérieur de Google pour contrôler l’intelligence artificielle suprahumaine

Si DeepMind construit une IA suprahumaine, qui la contrôlera ?

DeepMind, la start-up d’intelligence artificielle achetée par Google en 2014, a pour mission de créer le premier système d’intelligence artificielle générale (AGI) au monde – le genre d’intelligence artificielle suprahumaine et globale que nous voyons dans la science-fiction.

Pour s’assurer que l’AGI est utilisée de manière responsable, Demis Hassabis, fondateur de DeepMind, a protégé l’indépendance de son entreprise vis-à-vis de Google et de sa société mère Alphabet en mettant en place des garde-fous internes, selon une nouvelle histoire de The Economist, 1843 Magazine – dont un comité d’éthique contrôlé par Hassabis et son équipe d’origine, plutôt que Google.

Bien que Google se soit longtemps imposé comme un leader en matière d’éthique dans le monde de l’intelligence artificielle, le rapport de 1843 détaille une histoire de prises de pouvoir et de gestion douteuse.

Par exemple, DeepMind a lancé en 2016 une nouvelle division de soins de santé qui utiliserait la technologie d’IA pour rationaliser les opérations hospitalières et surveiller les fonctions vitales des patients.

Intelligence Artificielle Générale : Les gouvernements doivent investir

Deux ans plus tard, quelques mois seulement après que DeepMind Health ait conclu des contrats avec des hôpitaux partenaires, Google a annoncé Google Health et y a intégré le programme de DeepMind, donnant peu de préavis à DeepMind ou aux hôpitaux. Des sources proches du dossier, qui avaient obtenu l’anonymat de 1843 Magazine pour avoir signé des accords de non-divulgation, ont expliqué que cette décision avait suscité ressentiment et colère au sein de l’équipe de DeepMind.

Certaines de ces sources anonymes ont également partagé des doutes avec 1843 Magazine sur le fait que DeepMind pourrait déchiffrer le code de l’intelligence artificielle générale, soulignant des faiblesses peu connues et des mises en garde concernant les succès très médiatisés de l’entreprise en matière d’IA.

Les algorithmes développés par DeepMind peuvent faire des choses fascinantes, comme démolir certains jeux vidéo et conserver les connaissances mieux que d’autres systèmes, mais il n’y a pas de feuille de route claire vers la technologie fondamentalement nouvelle nécessaire pour développer l’AGI.

Mais si Hassabis le découvre, les garde-fous et les comités d’éthique qu’il a mis en place lors de l’achat de son entreprise pourraient signifier que la technologie restera entre ses mains et celles de son équipe au lieu de devenir une simple technologie Google.

The Economist 1843

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.