L'expansion de l'utilisation de l'intelligence artificielle dans la guerre représente une menace plus importante pour l'avenir du Royaume-Uni que les dernières avancées en matière de modèles d'IA frontières, ont déclaré des experts à City AM.

Nicholas Fairfax et Max Rangeley, coéditeurs de The Artificial Intelligence Revolution, ont affirmé que la capacité d'acteurs de moindre envergure à utiliser l'IA pour développer des armes extrêmement puissantes dépasse de loin le risque à court terme qu'un système de superintelligence ne provoque une destruction économique ou ne tente de dominer ses créateurs humains.

« La capacité de concevoir des armes biologiques pourrait bien être l'aspect le plus dangereux de l'IA dans les années à venir », a déclaré Rangeley à City AM.

« Il y a toujours eu d'importants obstacles à l'entrée pour les pays souhaitant développer des armes dangereuses… c'est coûteux, il faut des experts, c'est chronophage. Si, avec l'IA, nous entrons dans une situation où beaucoup plus de petits pays peuvent développer des armes mortelles, des armes biologiques bien plus dangereuses que tout ce que nous avons connu jusqu'à présent, et peut-être même des acteurs non étatiques, alors nous nous dirigeons vers un monde extrêmement dangereux.

« À mon sens, l'essentiel de notre attention devrait porter sur cet aspect plutôt que sur une superintelligence qui se retournerait contre les humains. Cette menace se concrétisera avant l'avènement de la superintelligence. »

Cette inquiétude reflète un tournant plus large dans les débats sur la sécurité de l'IA, qui passent de systèmes hypothétiques et lointains à des outils susceptibles d'abaisser les barrières techniques dans des domaines tels que les opérations cybernétiques, la conception d'armes et la recherche biologique. Les gouvernements s'efforcent de plus en plus de distinguer les usages légitimes de l'IA à des fins scientifiques et de défense des capacités qui pourraient être détournées par des États ou des acteurs non étatiques.

L'utilisation de l'IA dans la défense s'est accélérée dans le monde entier au cours des deux dernières années. La guerre Russie-Ukraine a servi de terrain d'essai en temps réel pour les nouvelles technologies, soulevant des questions sur la capacité à maintenir un contrôle effectif sur les systèmes militaires émergents.

« Le contrôle humain significatif demeure une composante importante du droit international, de sorte qu'il devrait toujours y avoir un humain dans la boucle, quelque part dans la chaîne, pour contrôler les choses », a déclaré Fairfax, coéditeur de l'ouvrage et ancien membre du House of Lords AI in Weapon Systems Committee.

« Mais j'ignore si ce rubicon a déjà été franchi. Il suffit de regarder l'Ukraine pour se demander si certains de ces drones devenus si déterminants opèrent déjà au-delà de tout contrôle humain. »

Le gouvernement britannique enquête sur une faille chez OpenAI après un piratage « inédit »

Ces avertissements interviennent alors que le gouvernement britannique examine ce que City AM a décrit comme le premier cas connu d'un modèle d'intelligence artificielle s'échappant de lui-même d'un test contrôlé et piratant les systèmes d'une autre entreprise.

Des responsables du AI Security Institute (AISI), soutenu par le gouvernement, enquêtent sur la faille de sécurité chez OpenAI et sur la possibilité que des incidents similaires se produisent chez d'autres grands développeurs, a indiqué un porte-parole à City AM. L'AISI a été créé pour évaluer les systèmes d'IA avancés et étudier les risques, notamment en matière de cybersécurité et d'usage abusif, ce qui rend l'incident d'OpenAI pertinent tant pour les pratiques de test des modèles que pour les garanties utilisées par les développeurs d'IA frontières.

L'un des modèles d'OpenAI a identifié une faille dissimulée, s'est échappé de son environnement de test et a ciblé la plateforme d'IA Hugging Face pour voler les réponses à un test cybernétique.

OpenAI a qualifié l'incident de « cyberincident inédit ». Il s'agit du premier cas publiquement divulgué d'un système d'IA dit frontière piratant de manière autonome des systèmes extérieurs à son environnement de test afin d'accomplir une tâche qui lui avait été assignée.

« Nous atteindrons un point, dans les prochaines années, où cela deviendra un danger significatif pour l'humanité, et cela pourrait arriver assez rapidement », a déclaré Rangeley.

« Cette crainte face aux dangers de l'IA a longtemps précédé les entreprises d'IA actuelles.

« Il ne s'agit pas simplement d'entreprises d'IA frontières qui attiseraient la peur pour s'entourer de barrières réglementaires afin d'écarter la concurrence. C'est un danger réel. »