OpenAI : un projet d’IA appelé Q* (Q-Star) – En route vers l’AGI ?
Les chercheurs d’OpenAI ont prévenu le conseil d’administration de la percée technologique de l’IA avant l’éviction du PDG
Avant les quatre jours d’exil du PDG d’OpenAI, Sam Altman, plusieurs chercheurs ont envoyé au conseil d’administration une lettre mettant en garde contre une puissante découverte en matière d’intelligence artificielle qui, selon eux, pourrait menacer l’humanité, ont déclaré à Reuters deux personnes au courant de l’affaire.
La lettre et l’algorithme d’IA, dont il n’a pas été fait état auparavant, ont été le catalyseur qui a poussé le conseil d’administration à évincer Altman, la tête d’affiche de l’IA générative, ont déclaré les deux sources.
Avant son retour triomphal mardi dernier, plus de 700 employés avaient menacé de démissionner et de rejoindre Microsoft en solidarité avec leur chef licencié. Les sources ont cité la lettre comme l’un des facteurs d’une longue liste de griefs du conseil d’administration qui ont conduit au licenciement d’Altman. Reuters n’a pas été en mesure d’examiner une copie de la lettre. Les chercheurs qui ont écrit la lettre n’ont pas répondu aux demandes de commentaires.
OpenAI n’a pas souhaité faire de commentaire.
JUST IN: Sam Altman's firing was driven by OpenAI's secret breakthrough AI named Q* (possibly Q-learning).
Plus, huge developments in AI today from Inflection AI, Google Bard, Neuralink, ElevenLabs, screenshot-to-code, and 9 new AI tools.
Here's EVERYTHING you need to know:
— Rowan Cheung (@rowancheung) November 23, 2023
Selon l’une des sources, Mira Murati, cadre de longue date, a mentionné le projet, appelé Q*, aux employés mercredi et a déclaré qu’une lettre avait été envoyée au conseil d’administration avant les événements du week-end.
Après la publication de l’article, un porte-parole d’OpenAI a déclaré que Murati avait informé ses employés des informations diffusées par les médias, mais qu’elle ne s’était pas prononcée sur l’exactitude de ces informations.
Le créateur de ChatGPT a progressé sur Q* (prononcé Q-Star), qui, selon certaines personnes en interne, pourrait constituer une percée dans la recherche de la superintelligence, également connue sous le nom d’intelligence artificielle générale (AGI), a déclaré l’une de ces personnes à Reuters. OpenAI définit l’AGI comme des systèmes d’IA plus intelligents que les humains.
Doté de vastes ressources informatiques, le nouveau modèle a été capable de résoudre certains problèmes mathématiques, a déclaré la personne sous couvert d’anonymat car elle n’était pas autorisée à parler au nom de l’entreprise. Bien qu’il n’atteigne que le niveau des élèves de l’école primaire, le fait de réussir de tels tests a rendu les chercheurs très optimistes quant à la réussite future de Q*, a déclaré la source. Reuters n’a pas pu vérifier de manière indépendante les capacités de Q* annoncées par les chercheurs.
A suivre …
OpenAI Q Star Could Have a Mostly Automated and Scalable Way to Improve https://t.co/V3ruXAu5Nc pic.twitter.com/zQj9SYYVHY
— nextbigfuture (@nextbigfuture) November 23, 2023