La course mondiale au développement d'une intelligence artificielle plus avancée a largement été présentée comme une compétition de capacité — définie par qui peut construire le modèle le plus intelligent, déployer les agents les plus performants et atteindre la prochaine frontière en premier. Mais la cybersécurité montre pourquoi la capacité n'est qu'une partie de l'équation, écrit Richard Ireland, PDG de GovWare, dans une tribune pour BusinessWorld.

L'IA accélère la vitesse à laquelle les vulnérabilités peuvent être identifiées, les attaques lancées et les actions défensives menées, et un investissement important n'élimine pas l'exposition. Une recherche récente a révélé que si 83 % des responsables de la cybersécurité augmentent leurs dépenses, près de neuf organisations sur dix ont subi des cyberattaques l'an dernier.

Le défi s'étend de plus en plus au-delà des défenses d'une organisation donnée pour atteindre les connexions qui existent entre elles. Une entreprise peut investir massivement dans ses propres défenses, un gouvernement peut renforcer les garanties nationales, et un fournisseur de technologies peut introduire des contrôles plus stricts. Pourtant, les systèmes numériques modernes dépendent d'infrastructures, de fournisseurs, de plateformes cloud et de services interconnectés qui relèvent rarement d'une seule organisation ou juridiction. À mesure que l'activité cybernétique s'accélère et devient plus autonome, la capacité à coordonner au-delà de ces frontières pourrait devenir aussi importante que la capacité à se défendre à l'intérieur de celles-ci.

Quand la vitesse des machines rencontre les frontières organisationnelles

Les systèmes agentiques augmentent les enjeux car ils peuvent passer du signal à la décision puis à l'action avec moins d'intervention humaine. Le défi ne réside pas seulement dans le niveau d'autorité que les organisations accordent aux agents d'IA, mais aussi dans ce qui se passe lorsque leurs actions s'étendent au-delà des frontières organisationnelles vers des systèmes, des données et des infrastructures contrôlés par d'autres.

Les agents d'IA font également partie d'un univers croissant d'identités non humaines, des applications et services automatisés aux comptes machines qui interagissent dans des environnements numériques. À mesure que leur autonomie augmente, les organisations ont besoin de limites plus claires concernant ce à quoi elles peuvent accéder, quelles actions peuvent entreprendre et où l'intervention humaine reste nécessaire.

La responsabilisation devient plus difficile lorsque l'activité franchit les frontières organisationnelles. Différentes organisations peuvent fonctionner selon des contrôles, des réglementations et des seuils de risque différents, même lorsque leurs systèmes dépendent les uns des autres. À la vitesse des machines, détecter un problème n'est qu'une partie de la réponse. La rapidité avec laquelle les informations peuvent être partagées, les responsabilités établies et les actions coordonnées prises devient tout aussi importante.

La course à l'IA elle-même offre une leçon utile. Anthropic a signalé son ouverture à une pause mondiale coordonnée du développement de l'IA avancée si ses concurrents font de même. De même, le scientifique en chef d'OpenAI a averti que l'IA progresse si rapidement qu'il devient de plus en plus difficile pour les humains de la comprendre et de la contrôler, et s'attend à ce que les principaux laboratoires d'IA ralentissent volontairement le développement pour des raisons de sécurité. Pris ensemble, ces signaux indiquent un défi qui dépasse toute entreprise isolée : dans un environnement concurrentiel, faire preuve d'une plus grande prudence devient plus difficile si les autres continuent d'avancer.

La cybersécurité est confrontée à une version du même défi. Les organisations individuelles peuvent renforcer leur propre posture, mais les risques partagés exigent une préparation partagée.

Le risque cybernétique ne s'arrête pas aux frontières organisationnelles

La cybersécurité est passée d'une préoccupation technologique spécialisée à une question touchant l'ensemble de l'économie, reliant la continuité des activités, les infrastructures critiques, les chaînes d'approvisionnement, les systèmes financiers et la confiance du public, et l'IA agentique accélère cette évolution. De solides défenses organisationnelles restent essentielles, mais elles ne peuvent pas pleinement répondre aux risques qui se propagent via des infrastructures partagées, des tiers ou des écosystèmes technologiques transfrontaliers. Un fournisseur compromis, un service cloud partagé ou un fournisseur de technologies critiques peut affecter des organisations ayant peu de contrôle direct sur la source d'un incident. À mesure que ces dépendances s'approfondissent, la résilience dépend de plus en plus de la rapidité avec laquelle les organisations peuvent échanger des informations et coordonner une réponse.

Il en va de même au niveau national. La ministre du Développement numérique et de l'Information de Singapour, Josephine Teo, a souligné plus tôt cette année que les modèles d'IA les plus avancés sont développés dans une poignée de pays seulement, tandis que la coopération en matière de sécurité de l'IA reste limitée. Pourtant, les technologies et leurs risques potentiels franchissent les frontières.

Pour l'Asie, le défi de la coordination est particulièrement important. La région regroupe des économies présentant des environnements réglementaires, des niveaux de maturité numérique, des infrastructures et des degrés de préparation cybernétique différents. Il n'existe pas d'environnement opérationnel unique, mais un incidentvenant dans un marché ou une partie d'une chaîne d'approvisionnement peut avoir des conséquences ailleurs.

Construire la préparation avant la crise

Singapour a un rôle important à jouer pour faciliter ces échanges. Sa capacité à réunir des gouvernements, des entreprises technologiques mondiales, des sociétés et des praticiens permet d'entendre des perspectives qui ne se retrouvent pas toujours à la même table. La Singapore International Cyber Week et GovWare offrent des occasions de telles discussions, alors que la sécurité de l'IA, la responsabilisation et le risque transfrontalier exigent de plus en plus des perspectives tant du secteur public que privé.

Si la convocation compte, ce n'est pas parce qu'un forum détient toutes les réponses, mais parce que la préparation collective doit être bâtie avant qu'une crise ne l'exige. Les gouvernements, les entreprises et les fournisseurs de technologies devront davantage s'aligner sur la manière de partager les risques, sur les moments où l'information doit franchir les frontières organisationnelles et sur les situations où la coopération devrait primer sur la compétition. Ce même programme offre un ensemble concret de points de repère à observer : savoir si l'information circule plus aisément au-delà des frontières organisationnelles lorsque des incidents surviennent, savoir si des attentes communes concernant ce à quoi les agents d'IA peuvent accéder, les actions qu'ils peuvent entreprendre et les situations où la supervision humaine reste nécessaire prennent forme dans les différents secteurs et juridictions, et savoir si la volonté exprimée par les principaux laboratoires d'IA de ralentir ensemble le développement passe de la déclaration à la pratique.

La compétition reste un moteur important de l'innovation en IA, mais les progrès en matière de capacité doivent s'accompagner de progrès dans les garanties, les relations et les mécanismes de coopération nécessaires pour déployer ces capacités de manière responsable. Alors que l'activité cybernétique évolue à la vitesse des agents, la coordination ne peut commencer uniquement après qu'un problème est survenu.

La prochaine course à l'IA ne testera pas simplement qui peut construire le plus de systèmes. Elle testera également si les institutions et les relations qui les entourent peuvent avancer suffisamment vite pour suivre le rythme.

Richard Ireland est le PDG de GovWare. Cette tribune a été publiée pour la première fois par BusinessWorld.