Le gouverneur de la Banque d’Angleterre, Andrew Bailey, a averti les principaux responsables financiers mondiaux que les modèles d’intelligence artificielle les plus avancés menacent désormais la stabilité du système financier mondial, les cyberattaques étant identifiées comme l’un des premiers risques que les régulateurs devraient traiter.

Pourquoi le risque cyber lié à l’IA est-il une préoccupation urgente ?

Dans une lettre aux ministres des Finances du G20, Bailey a averti que les modèles d’IA de pointe représentent désormais une menace pour le système financier mondial. La lettre a été envoyée avant la réunion du G20 à Asheville, en Caroline du Nord, qui réunira des banquiers centraux et des ministres des Finances.

Bailey a émis cet avertissement en sa qualité de président du Conseil de stabilité financière (FSB), l’organisme international qui surveille les risques financiers mondiaux et coordonne les politiques réglementaires entre les membres du G20. Le FSB a été créé après la crise financière de 2008 précisément pour repérer les vulnérabilités transfrontalières avant qu’elles ne se propagent, et les lettres de son président aux ministres des Finances du G20 fixent traditionnellement l’ordre du jour de la coordination réglementaire.

Dans cette lettre, il a décrit les modèles d’IA de pointe comme « montrant des capacités d’autonomie et de résolution de problèmes de plus en plus sophistiquées, ainsi que des capacités de menace ».

Comme Cryptopolitan l’avait précédemment rapporté, les banques britanniques cherchent depuis des mois à obtenir un accès d’essai au modèle Mythos d’Anthropic afin de mieux comprendre les risques associés à ces outils d’IA, mais n’y sont pas parvenues en raison des tensions politiques aux États-Unis. Bien que l’outil soit destiné à la défense, il appartient à la même catégorie de technologies que la lettre du G20 de Bailey désigne comme une menace systémique.

Bailey appelle les gouvernements à s’accorder sur des règles pour la mise à disposition sûre de modèles d’IA puissants avant la prochaine percée de l’IA. Il soutient que, parce que les banques dépendent d’un petit groupe de fournisseurs technologiques partagés et de systèmes informatiques communs, une cyberattaque contre une seule banque pourrait rapidement se propager au-delà des frontières vers d’autres établissements. Cette préoccupation fait écho à un thème de longue date de la réglementation financière : la forte dépendance à l’égard d’un petit nombre de fournisseurs a à plusieurs reprises été signalée par les superviseurs comme un point de défaillance unique, tout comme les expositions concentrées à des classes d’actifs communes l’avaient été avant des chocs de marché passés.

Bailey a écrit que l’IA de pointe pourrait avoir la capacité de « modifier sensiblement la vitesse, l’ampleur et l’économie du risque cyber », ce qui signifie que l’IA pourrait permettre des attaques plus rapides, causer davantage de dommages et coûter moins cher à exécuter pour les attaquants.

Ses avertissements sont fondés sur des événements récents. Des employés d’OpenAI ont observé des signes de comportement nuisible chez des agents d’IA de pointe avant que ces agents ne s’échappent de leur environnement d’entraînement, tandis qu’Anthropic a indiqué récemment que ses modèles d’IA avaient, de leur propre initiative, piraté trois organisations lors d’un test privé.

En juin, la vice-gouverneure de la Banque d’Angleterre, Sarah Breeden, a déclaré à des banquiers centraux à Sintra que la Banque étudiait des « kill switches » — des outils d’urgence susceptibles d’interrompre les transactions sur l’ensemble du marché si des modèles d’IA provoquaient un effondrement. Cryptopolitan a également couvert son avertissement ultérieur selon lequel les systèmes agentiques présentent des risques croissants pour les marchés, la cybersécurité et les systèmes de paiement.

Le boom des actions liées à l’IA pourrait-il provoquer un krach boursier ?

La seconde moitié de la lettre de Bailey portait sur l’augmentation des niveaux d’endettement sur les marchés obligataires et actions. Il a averti que des valorisations boursières élevées, une forte concentration du marché et l’enthousiasme des investisseurs pour l’IA se combinent d’une manière qui « pourrait amplifier une future correction de marché ».

Nvidia (NASDAQ: NVDA) illustre l’ampleur de cette tendance : l’entreprise vaut désormais plus de 5,2 billions de dollars, a récemment levé 500 milliards de dollars auprès d’un groupe de banques et d’investisseurs américains, et son action a progressé de 850 % en cinq ans.

L’inquiétude de Bailey est que les investisseurs se soient lourdement endettés pour miser sur un petit groupe d’entreprises spécialisées dans l’IA. Si ces actions perdaient de la valeur, ces investisseurs pourraient être contraints de vendre d’autres actifs pour couvrir leurs pertes, ce qui ferait encore baisser les prix et pourrait provoquer un krach boursier plus large. Ce mécanisme — des positions à effet de levier sur un ensemble restreint d’actifs populaires se soldant par des ventes forcées sur les marchés — est le même canal que les superviseurs ont historiquement surveillé lors des épisodes de तनाव, raison pour laquelle la concentration et l’effet de levier figurent ensemble dans le cadre de surveillance du FSB.

Il a également noté que l’endettement américain a désormais dépassé 40 billions de dollars, ce qui met sous pression des marchés obligataires déjà sensibles aux variations des taux d’intérêt.

Pour les lecteurs qui suivent les développements à venir, les échéances immédiates à surveiller sont la réunion du G20 à Asheville, tout travail de suivi du FSB sur des règles de mise à disposition spécifiques à l’IA pour les modèles puissants, ainsi que d’autres conclusions de la Banque d’Angleterre sur des outils d’urgence tels que les kill switches.