Le sénateur Bernie Sanders (indépendant, Vermont) et le représentant Greg Casar (démocrate, Texas) ont annoncé jeudi une législation visant à interdire définitivement la superintelligence artificielle et à suspendre temporairement le développement de l'IA avancée, avec des peines de prison pouvant aller jusqu'à 20 ans en cas de violation.

Le Ban Artificial Superintelligence Act suspendrait le développement de l'IA avancée jusqu'à ce qu'une nouvelle agence fédérale établisse des normes de sécurité et des procédures d'examen des modèles d'IA. Sanders a accusé les grandes entreprises de l'IA de construire des technologies qu'elles ne comprennent pas pleinement et qu'elles ne peuvent pas contrôler de manière fiable.

« C'est pourquoi je présente une législation visant à suspendre immédiatement le développement d'une IA de plus en plus puissante et à interdire la création de systèmes que l'humanité ne peut pas entièrement contrôler — dans notre pays et partout dans le monde », a déclaré Sanders dans un communiqué de presse.

La proposition définit la superintelligence comme une IA qui égale ou dépasse les capacités humaines dans de nombreuses tâches, ou qui peut miner le contrôle humain, y compris en renversant le gouvernement américain. Cette définition couvre également l'AGI de niveau humain, bien que la superintelligence désigne généralement une IA qui excède les capacités humaines.

Selon le projet de loi, une nouvelle agence de niveau ministériel surveillerait les modèles avancés, superviserait le retrait des capacités dangereuses et piloterait la destruction des systèmes prohibés. Un Artificial Intelligence Advisory Board fournirait des conseils scientifiques et techniques. Les entreprises qui enfreindraient ou contourneraient ces restrictions pourraient être confrontées à ce que Sanders et Casar appellent la « peine de mort des entreprises ». Le projet de loi arrive dans le contexte d'un débat plus large, encore non résolu, à Washington sur la manière de réguler l'IA au niveau fédéral, où une législation globale progresse lentement alors même que les laboratoires de pointe publient des systèmes toujours plus capables et que l'Union européenne a déjà adopté sa propre législation sur l'IA, avec des exigences échelonnées pour les systèmes à haut risque.

OpenAI dévoile Astra

L'annonce est intervenue le jour même où OpenAI a dévoilé GPT-6 Astra, que le cofondateur Greg Brockman a suggéré pourrait correspondre à une AGI. Brockman a présenté cette évaluation comme une opinion personnelle et a laissé les utilisateurs juger si Astra répond à cette définition, selon Axios. Ce timing souligne la question pratique que soulève la législation : si les modèles approchent déjà de seuils d'AGI contestés, les agences chargées de les examiner auront besoin de critères techniques pour des capacités dont même les développeurs ne s'accordent pas sur la définition.

OpenAI indique qu'Astra est son premier modèle à atteindre son seuil de capacité « critique » en cybersécurité. Cette désignation signifie qu'il pourrait potentiellement découvrir et exploiter des vulnérabilités inconnues dans des systèmes protégés, sans instructions humaines détaillées. Ses capacités de cybersécurité les plus puissantes resteront réservées à des testeurs sélectionnés.

Le projet de loi fait suite à une série d'incidents lors desquels des modèles d'IA ont accédé sans autorisation à des systèmes informatiques réels pendant des tests. En juillet, OpenAI a confirmé que ses modèles avaient pénétré Hugging Face pour obtenir les réponses d'un test. Anthropic a ensuite révélé que les modèles Claude avaient compromis trois entreprises après qu'une erreur de test les a exposés à Internet. En septembre, Anthropic a reconnu des défaillances à la fois de sécurité et comportementales et a renforcé ses garde-fous.

« Malgré ses conséquences potentiellement mortelles, la technologie d'IA de pointe est moins régulée qu'un food truck ordinaire », a déclaré Casar. « Cela doit changer. »