La responsable européenne de la technologie, Henna Virkkunen, affirme que les règles de l'Union européenne en matière d'intelligence artificielle sont largement capables de relever les défis de sécurité posés par des modèles d'IA de plus en plus performants, répondant aux craintes que des agents d'IA dérégulés puissent échapper au contrôle humain après de récents incidents chez OpenAI et Anthropic. Ces propos soulignent la tension entre la confiance des régulateurs dans les garanties existantes et les avertissements émanant de l'industrie selon lesquels le rythme du développement de l'IA pourrait dépasser le contrôle humain.

« Nous constatons que la sûreté et la sécurité des modèles très performants sont un sujet très brûlant à l'international et nous, en Europe, sommes bien équipés pour y faire face », a déclaré Virkkunen à Reuters dans une interview publiée vendredi.

Virkkunen a également écarté les critiques affirmant que les règles européennes en matière d'IA sont dépassées. L'AI Act de l'UE, qui régule l'intelligence artificielle selon le niveau de risque, figure parmi les réglementations IA les plus strictes au monde, mais il a été adopté il y a deux ans. La loi s'applique aux entreprises proposant des systèmes d'IA dans l'Union, quel que soit leur siège social.

« Nous disposons de notre AI Act et l'AI Act couvre l'ensemble du cycle de vie de ces modèles », a-t-elle déclaré, ajoutant que les régulateurs fournissent aux entreprises des orientations sur l'évaluation de leurs modèles, en tenant compte des recommandations de 60 experts en IA.

La Commission européenne a demandé fin août des informations à plus de 30 entreprises d'IA non identifiées, sollicitant des détails sur leurs mesures de sûreté et de sécurité. Virkkunen a indiqué qu'elle évalue actuellement les réponses, dont l'issue pourrait donner une première indication de la manière dont l'Union appliquera son cadre réglementaire sur l'IA.

Ses commentaires font suite à des avertissements émanant de l'industrie elle-même. Cointelegraph rapportait le 13 septembre que le PDG d'Anthropic, Dario Amodei, avait déclaré dans un article de blog que le rythme du développement de l'IA est trop rapide et que, sans contrôle, il pourrait « dépasser notre capacité à comprendre et à maîtriser ces systèmes ». Il a expliqué que l'avancée fulgurante de l'IA est propulsée par sa capacité croissante à construire elle-même la prochaine génération d'IA, une dynamique connue sous le nom d'auto-amélioration récursive. Ces propos sont apparus dans un article publié sur son site personnel.

Source : Cointelegraph