LONDRES — Le président de Microsoft, Brad Smith, a appelé à une régulation mondiale urgente de l'intelligence artificielle, incluant des évaluateurs indépendants capables d'examiner les nouvelles avancées, en avertissant que l'IA est actuellement soumise à moins d'exigences de sécurité que le lait.

S'exprimant dans une interview accordée à la BBC et publiée lundi, Smith a déclaré qu'un ensemble de règles de sécurité mondiales devait être mis en place, incluant l'obligation d'informer une « victime » si son système est compromis par un agent d'IA incontrôlé et la disponibilité d'un « frein d'urgence ».

Il a également indiqué que les entreprises devraient avoir l'obligation légale de rédiger des « rapports d'incidents ».

« Nous savons comment faire cela pour d'autres produits », a déclaré M. Smith. « Nous devrions nous appuyer sur ce savoir-faire et réfléchir à la manière de l'appliquer à l'IA. »

« À l'heure actuelle, votre machine à laver est soumise à plus de règles de sécurité que l'IA. Chaque brique de lait que vous voyez à l'épicerie est soumise à des règles de sécurité et à des inspections. »

Des entreprises technologiques telles qu'Anthropic et OpenAI ont commencé à divulguer les comportements incontrôlés ou indésirables des agents d'IA, dans le cadre d'un débat mondial sur cette technologie en évolution rapide, qui a notamment vu des chercheurs avertir d'une éventuelle menace existentielle pour l'humanité. Microsoft est lui-même l'un des principaux soutiens d'OpenAI, avec un investissement et un partenariat technologique de plusieurs milliards de dollars qui intègrent les modèles de la start-up dans l'ensemble de ses produits.

Certaines entreprises ont appelé à ralentir le développement de l'IA, mais cela a suscité un débat sur les motivations cachées éventuelles des dirigeants, comme l'établissement de règles préservant l'avance de leurs entreprises, la prévention d'une réaction gouvernementale plus large, ou simplement le ralentissement de dépenses effrénées.

Smith a déclaré que le Royaume-Uni était le pays le mieux placé pour montrer la voie en matière de régulation de l'IA, citant l'AI Security Institute, lancé sous l'ancien Premier ministre Rishi Sunak lors du sommet de 2023 sur la sécurité de l'IA à Bletchley Park. Il a ajouté que les responsables de Washington voyaient Londres de manière très différente de Bruxelles, qui régule l'IA selon son niveau de risque via son AI Act, première loi globale sur l'IA au monde dont les obligations sont mises en œuvre progressivement.

L'institut britannique bénéficie d'un accès avant déploiement aux principaux modèles d'IA dans le cadre d'accords volontaires, lui permettant d'évaluer leurs capacités et leurs risques. Jusqu'à présent, le Royaume-Uni supervise l'IA par le biais de ses régulateurs existants appliquant des principes non législatifs, plutôt que via une loi dédiée à l'IA.

Le ministre de l'IA, Kanishka Narayan, a ind à Reuters que le Royaume-Uni envisagerait de réguler les modèles avancés si le système actuel s'avérait insuffisant.

— Reuters