Le fondateur de Microsoft, Bill Gates, a averti que l’intelligence artificielle est devenue une préoccupation mondiale en matière de sécurité et appelle à une supervision internationale renforcée des modèles d’IA les plus dangereux.

Selon des informations partagées par @coinbureau sur X, Gates chercherait à rencontrer le président chinois Xi Jinping plus tard cette année afin d’évoquer des contrôles internationaux pour les systèmes d’IA avancés. Son approche proposée comprend une surveillance plus étroite de la capacité des modèles d’IA à créer des molécules ou à aider à mener des attaques biologiques.

Gates a également soutenu que la Chine pourrait jouer un rôle dans la limitation de la diffusion de modèles d’IA potentiellement dangereux si les États-Unis prennent d’abord une mesure similaire. Ces commentaires interviennent alors que les gouvernements et les entreprises technologiques continuent d’examiner comment des systèmes d’IA de plus en plus performants pourraient être utilisés au-delà des applications conventionnelles, les questions de supervision dépassant désormais largement la sécurité des produits pour englober des préoccupations potentielles de sécurité nationale.

Gates soulève des inquiétudes concernant l’IA et les risques biologiques

L’une des principales préoccupations mises en avant par Gates est la possibilité que des systèmes d’IA avancés contribuent un jour à des menaces biologiques. Il a exhorté les pays à surveiller si les modèles d’IA sont capables de créer des molécules ou d’effectuer des activités associées à des attaques biologiques.

Cette inquiétude reflète un débat plus large autour de la nature à double usage d’une intelligence artificielle toujours plus performante. Des systèmes conçus à des fins scientifiques et technologiques légitimes peuvent aussi fournir des informations susceptibles d’être détournées.

L’appel de Gates à la surveillance se concentre spécifiquement sur des capacités qui pourraient créer des risques importants pour la sécurité. Plutôt que de traiter la supervision de l’IA uniquement comme une question de politique technologique, cette approche impliquerait que les gouvernements évaluent si les modèles avancés peuvent accomplir des tâches qui pourraient avoir de graves conséquences en cas de mauvaise utilisation.

La coordination internationale pourrait devenir particulièrement importante à mesure que le développement de l’IA se poursuit dans plusieurs pays et entreprises. Les restrictions mises en place par un gouvernement peuvent avoir une efficacité limitée si des systèmes comparables peuvent être développés ou diffusés ailleurs, ce qui explique pourquoi le débat porte de plus en plus sur des normes communes plutôt que sur des règles nationales isolées.

La Chine pourrait jouer un rôle dans les contrôles de l’IA

La volonté signalée d’entrer en contact avec Xi Jinping reflète la dimension internationale des inquiétudes de Gates. Selon les informations partagées sur X, Gates estime que la Chine pourrait restreindre la diffusion de modèles d’IA dangereux si les États-Unis agissent en premier.

Une telle approche accorderait une plus grande importance à la coordination entre les grandes nations productrices d’IA. Les États-Unis et la Chine figurent parmi les pays jouant un rôle important dans le développement de l’intelligence artificielle avancée, ce qui rend leurs politiques pertinentes dans les discussions sur les risques potentiels de cette technologie.

La position rapportée de Gates suggère que les contrôles internationaux pourraient être plus efficaces si les grandes puissances technologiques instaurent des garanties comparables pour le développement et le déploiement de systèmes d’IA très performants.

Cette proposition souligne également la difficulté de gérer des technologies en évolution rapide qui peuvent franchir les frontières nationales. Les modèles d’IA peuvent être développés dans un pays, distribués à l’échelle mondiale et potentiellement utilisés par des particuliers ou des organisations dans des juridictions appliquant des normes réglementaires différentes, ce qui complique l’application et l’harmonisation à mesure que les capacités progressent.

Des systèmes d’IA ont démontré des capacités offensives

Les inquiétudes concernant la sécurité de l’IA ont également été renforcées par des tests récents impliquant des systèmes développés par OpenAI, Anthropic et Meta.

Selon les informations partagées par @coinbureau, ces tests impliquaient des systèmes d’IA qui ont réussi à pirater de véritables sites web. Gates a qualifié ces incidents d’évolutions qui devraient "blow people's minds."

Les démonstrations rapportées sont significatives parce qu’elles montrent des systèmes d’IA accomplissant des tâches allant au-delà de la génération de texte ou de la réponse à des questions. La capacité d’un système d’IA à interagir avec des environnements numériques réels peut créer des considérations de sécurité supplémentaires, en particulier lorsque ces systèmes disposent d’une plus grande autonomie.

Ces incidents soulignent aussi pourquoi les discussions sur la sécurité de l’IA incluent de plus en plus la cybersécurité, en plus des risques biologiques et d’autres risques potentiels. À mesure que les modèles deviennent plus aptes à exécuter des tâches en plusieurs étapes, chercheurs et décideurs doivent se demander jusqu’à quel point ces systèmes devraient avoir accès à des outils externes et à l’infrastructure numérique.

Des appels à une supervision internationale renforcée

Les commentaires rapportés de Gates s’ajoutent au débat en cours sur la manière dont les gouvernements devraient répondre à des capacités d’IA qui progressent rapidement. Son attention portée aux risques biologiques, à la cybersécurité et à la diffusion potentiellement dangereuse de modèles suggère un cadre plus large pour évaluer la sécurité de l’IA.

La question dépasse les entreprises technologiques individuelles, car des modèles avancés sont développés par de nombreuses organisations dans différents pays. Des normes coordonnées pourraient donc devenir un élément important des efforts visant à gérer les risques associés à des systèmes toujours plus capables.

Dans le même temps, tout contrôle international devrait tenir compte des différences entre politiques nationales, priorités technologiques et approches réglementaires. La proposition rapportée impliquant les États-Unis et la Chine reflète la difficulté d’établir des garanties communes entre les principales puissances de l’IA.

Pour l’heure, l’avertissement de Gates met l’accent sur la surveillance des capacités des systèmes d’IA avancés et sur la prévention de la diffusion ou de l’utilisation abusive de modèles susceptibles de poser de graves risques pour la sécurité. Sa démarche signalée visant à s’entretenir avec Xi Jinping plus tard cette année soulignerait davantage la dimension internationale de la question.

À mesure que les systèmes d’IA continuent de progresser, les questions liées à la sécurité biologique, à la cybersécurité et aux contrôles internationaux devraient rester au cœur des discussions sur le développement et le déploiement de cette technologie.

Rédacteur : Victoria Hale Rédactrice Technologie & Blockchain Victoria Hale écrit sur la technologie blockchain, l’infrastructure numérique et l’intersection des technologies émergentes avec la finance. Ses articles explorent la manière dont les nouveaux protocoles et systèmes façonnent l’économie numérique en évolution. Elle accorde la priorité à la clarté et à la précision lorsqu’elle explique des développements techniques à un large public.

Découvrez d’autres actualités et articles sur Google News

Avertissement :

Les articles publiés sur HOKA.NEWS sont là pour vous tenir informé des dernières tendances dans la crypto, la tech et au-delà — mais ils ne constituent pas un conseil financier. Nous partageons des informations, des tendances et des analyses, sans vous dire d’acheter, de vendre ou d’investir. Faites toujours vos propres recherches avant toute décision financière. HOKA.NEWS n’est pas responsable des pertes, gains ou imprévus pouvant résulter d’une action fondée sur ce que vous lisez ici. Les décisions d’investissement doivent provenir de vos propres recherches — et, idéalement, des conseils d’un conseiller financier qualifié. N’oubliez pas : la crypto et la tech évoluent vite, l’information change en un clin d’œil et, même si nous visons l’exactitude, nous ne pouvons pas garantir que tout soit complet ou à jour à 100 %.

Les articles publiés sur HOKA.NEWS sont là pour vous tenir informé des dernières tendances dans la crypto, la tech et au-delà — mais ils ne constituent pas un conseil financier. Nous partageons des informations, des tendances et des analyses, sans vous dire d’acheter, de vendre ou d’investir. Faites toujours vos propres recherches avant toute décision financière.

HOKA.NEWS n’est pas responsable des pertes, gains ou imprévus pouvant résulter d’une action fondée sur ce que vous lisez ici. Les décisions d’investissement doivent provenir de vos propres recherches — et, idéalement, des conseils d’un conseiller financier qualifié. N’oubliez pas : la crypto et la tech évoluent vite, l’information change en un clin d’œil et, même si nous visons l’exactitude, nous ne pouvons pas garantir que tout soit complet ou à jour à 100 %.

Restez curieux, restez prudents et profitez du voyage ! hoka.news