Google DeepMind a dévoilé le DeepMind Institute (DMI), une plateforme dédiée destinée à faire progresser la recherche et la compréhension de l'intelligence artificielle générale (AGI). L'initiative réunit des chercheurs et des penseurs de Google DeepMind, de Google et de la communauté mondiale de recherche au sens large, qui publieront des perspectives créatives et éclairées sur un monde avec l'AGI. L'entreprise précise explicitement que les contributeurs ne seront pas toujours d'accord et pourront réviser leurs points de vue à mesure que de nouvelles preuves émergent dans cette frontière en évolution rapide. De plus amples informations sont disponibles sur le site officiel de l'institut.

L'annonce intervient alors que les systèmes d'IA actuels démontrent des capacités remarquables tout en échouant encore sur des tâches de base et en manquant de la constance et de la créativité qu'exigerait une véritable AGI. DeepMind anticipe que ces écarts se combleront prochainement et définit l'AGI — un système égaleant l'ensemble des capacités cognitives du cerveau humain — comme l'outil ultime potentiel pour accélérer les percées scientifiques. Dans la vision de l'entreprise, l'AGI pourrait ouvrir de nouvelles voies vers la compréhension et la guérison des maladies, le développement de l'énergie propre et la stimulation de la prospérité économique, inaugurant un âge d'or de la découverte bien au-delà de ce que l'humanité pourrait accomplir seule. Ce cadrage a d'autant plus de poids que l'AGI elle-même ne dispose d'aucune définition technique universellement acceptée, et que les chercheurs restent divisés sur le moment — ou la possibilité — où de tels systèmes verront le jour, faisant de cette terminologie une ligne de fracture au sein du domaine.

DeepMind tempère cet optimisme par une évaluation franche des risques. Elle observe que les effets d'une IA de plus en plus performante sont déjà visibles dans des domaines tels que la cybersécurité et les risques biologiques, et met en garde contre une perte de contrôle potentielle dans de futurs systèmes auto-améliorants. Le DMI est présenté comme une réponse directe à cette double réalité : un effort soutenu en faveur de la recherche interdisciplinaire, de la collaboration et du débat nécessaires pour résoudre les questions techniques et sociétales les plus cruciales de l'époque.

Au-delà du laboratoire : le rôle de la société à l'ère de lAGI

Le mandat de l'institut dépasse largement le cadre de l'ingénierie technique. Il prévoit d'affronter des questions telles que ce que l'humanité valorisera à l'ère de l'AGI et comment de tels systèmes redéfiniront ce que signifie être humain ; comment l'AGI devrait être construite en toute sécurité et gouvernée, et comment fonctionneront les communautés d'agents d'IA ; et quelles institutions et politiques la société devra adapter — ou réinventer entièrement.

Une prémisse centrale de l'initiative est que les seuls technologues ne peuvent décider de la manière dont l'AGI sera développée et déployée de façon responsable. L'expertise technologique peut établir la possibilité d'une nouvelle ère, mais DeepMind soutient que façonner sa réalité est une responsabilité collective appartenant à l'ensemble de la société — une responsabilité qui doit englober les arts, les sciences humaines et les gouvernements. Selon cette vision, le consensus sur les défis et les opportunités à venir exige un engagement intellectuel large plutôt qu'une voix unique et autoritaire.

En réunissant des points de vue divers pour identifier les défis critiques et débattre des solutions possibles, le DMI vise à contribuer à garantir que les bénéfices de l'AGI l'emportent sur ses risques et améliorent la vie de tous. Ce lancement témoigne également d'une évolution plus large dans la manière dont les grands laboratoires d'IA engagent le public sur les technologies de pointe, passant d'un développement en coulisses à une délibération ouverte et multidisciplinaire — un tournant déjà visible dans l'ensemble du secteur, où des laboratoires concurrents de pointe ont publié leurs propres cadres de sécurité et engagements de montée en puissance, et où les décideurs politiques se sont employés à réguler l'IA avancée, de l'AI Act de l'Union européenne aux déclarations des sommets internationaux sur l'atténuation des risques de frontière. Que l'institut parvienne ou non à transformer le débat en cadres concrets de sécurité et de gouvernance reste à voir, mais cela représente un pari institutionnel notable : la voie vers l'AGI doit être façonnée par bien plus que ses bâtisseurs.

Source : Metaverse Post