Ce fut une semaine importante dans le domaine de l’IA, avec la sortie de modèles phares par certains des plus grands acteurs : Le très attendu GPT-4 d’OpenAI a fait ses débuts, tandis que Google a présenté son Med-PaLM 2, un modèle médical nouveau et amélioré, ainsi que son PaLM API et sa MakerSuite pour permettre aux développeurs de prototyper et de déployer leurs propres modèles.

Dans le même temps, Anthropic a présenté son concurrent ChatGPT, Claude API, dans une version sur invitation seulement de son chatbot et dans une version plus légère et moins chère (Claude Instant). En Chine, Tsinghua a lancé ChatGLM, un modèle chinois-anglais basé sur le chat qui rappelle ChatGPT.

En ce printemps de l’IA, les attentes sont nombreuses. La technologie s’améliore rapidement, entraînant une adoption sans précédent et une augmentation des financements. Mais la transparence diminue à mesure que les entreprises protègent davantage leurs produits. Au milieu de toute cette activité, l’intérêt politique fleurit, mais l’action concrète se fait attendre.

Tendance 1 : le déploiement est en hausse

En novembre, le lancement de ChatGPT a permis à l’IA de se généraliser. Deux mois après son lancement, elle comptait 100 millions d’utilisateurs actifs mensuels, ce qui en fait l’application grand public à la croissance la plus rapide de l’histoire. Les entreprises ont rapidement intégré des modèles de fondation dans leurs produits destinés au grand public : Au début du mois, OpenAI a publié ChatGPT API, en soulignant que Snap et Quizlet proposent déjà des produits basés sur le ChatGPT et qu’Instacart a annoncé des plans pour la fin de l’année. OpenAI et Salesforce se sont associés pour intégrer ChatGPT dans le logiciel de travail Slack.

La semaine dernière, le déploiement s’est encore accéléré : Claude d’Anthropic alimente désormais Notion AI et le moteur de recherche DuckDuckGo, tandis que GPT-4 d’OpenAI est à la base des offres de Morgan Stanley, Khan Academy, Duolingo et Stripe. En fait, le communiqué d’OpenAI détaille les efforts en cours avec le gouvernement islandais pour la préservation de la langue. Parallèlement, le forum de questions et réponses en ligne Quora a lancé Poe, un service de chatbot qui propose les modèles Anthropic et OpenAI en arrière-plan.

Enfin, Google et Microsoft ont tous deux prévu de déployer des modèles de base dans un grand nombre de leurs produits emblématiques, de Google Slides à Microsoft Word.

Tendance 2 : détérioration de la transparence

Alors que l’IA devient de plus en plus performante et utile, de nombreuses organisations de premier plan sont devenues moins transparentes.

Rien n’illustre mieux cette situation que le rapport technique d’OpenAI sur GPT-4, qui indique : « Compte tenu du paysage concurrentiel et des implications en matière de sécurité des modèles à grande échelle comme GPT-4, ce rapport ne contient aucun détail supplémentaire sur l’architecture (y compris la taille du modèle), le matériel, le calcul d’entraînement, la construction de l’ensemble de données, la méthode d’entraînement, ou autre ». Au Stanford’s Center for Research on Foundation Models (CRFM), ils ont fait valoir le besoin urgent de normes solides.

Toutefois, nous constatons des efforts manifestes pour lutter contre ces tendances, en mettant en évidence plusieurs publications transparentes. Meta a publié LLaMA avec des exigences de licence sur l’utilisation commerciale. Together a dévoilé OpenChatKit 0.15, un chatbot que les développeurs peuvent construire, avec un accès complet au code source, aux poids des modèles et aux ensembles de données d’entraînement. Le ChatGLM-6B de Tsinghua est également open-source.

Au CRFM, a été publié la recette d’entraînement pour Alpaca, basée sur le LLaMa-7B de Meta, qui réduit considérablement le coût d’acquisition de capacités comparables aux modèles de la série GPT-3.5 d’OpenAI (text-davinci-003 en particulier).

Tendance 3 : afflux massif de financements

Il y a un torrent massif de financement. Ces derniers mois ont été qualifiés de « ruée vers l’or » pour les startups de type « fondation », capitalisant sur l’intérêt pour l’IA générative et les valorisations élevées.

Quelques exemples : Adept a levé 350 millions de dollars, Google a injecté 300 millions de dollars supplémentaires dans Anthropic, Character AI a levé 200 millions de dollars auprès d’Andreesen Horowitz, Perplexity a levé 25 millions de dollars et Salesforce Ventures a lancé un fonds de 250 millions de dollars, soutenant un grand nombre de start-ups, dont Anthropic, Cohere et You.com. Si l’attention des investisseurs s’est récemment concentrée sur le texte, qu’en sera-t-il l’année prochaine pour les autres modalités (par exemple, Stability (les développeurs de StableDiffusion) ont levé 101 millions de dollars en octobre) ?

Tendance 4 : Demande de mesures politiques

À mesure que les modèles de fondation se généralisent, la demande de réglementation de l’IA s’accroît, attirant l’attention des principaux décideurs politiques du monde entier. Aux États-Unis, le député Ted Lieu a proposé une résolution appelant à une réglementation de l’IA, rédigée par ChatGPT et accompagnée d’un article d’opinion dans le New York Times. Bien que les gouvernements aient été lents à adopter une législation réglementant l’intelligence artificielle, le mouvement s’accélère. Mettant l’accent sur le manque de transparence, le CRFM a récemment présenté une note politique appelant à des évaluations normalisées et à des rapports publics par le biais d’initiatives telles que HELM.

À la fin de l’année 2022, la Maison-Blanche a présenté un projet de déclaration des droits de l’IA et, le mois dernier, un groupe de travail dirigé par la Maison-Blanche et chargé de mettre en place le National AI Research Resource (NAIRR) a publié son rapport final, demandant au Congrès un investissement sur six ans pour développer les ressources en matière d’IA. La semaine dernière, Aleksander Madry, professeur au MIT, a témoigné devant la sous-commission de la Chambre des représentants des États-Unis chargée de la cybersécurité, des technologies de l’information et de l’innovation gouvernementale : « L’IA ne relève plus de la science-fiction et n’est pas non plus une technologie confinée aux laboratoires de recherche. L’IA est une technologie qui est déjà déployée et largement adoptée en ce moment même. Elle va radicalement changer nos vies ; nous devons réfléchir dès maintenant à la manière de façonner le monde à venir, dominé par l’IA. »

La semaine dernière, le Royaume-Uni a annoncé son intention de créer un groupe de travail sur les modèles de base, qui relèvera directement du premier ministre, et qui sera déjà suivi d’un investissement de 900 millions de livres sterling dans un superordinateur exaflopique (exascale computing). Comme l’a déclaré le premier ministre Rishi Sunak, « les modèles de base comme ChatGPT commencent à démontrer de nouvelles capacités remarquables. C’est notre nouvelle réalité. Et la course à la création, au développement et à l’exploitation de ces nouvelles technologies est mondiale ».