La course à l'intelligence artificielle s'intensifie alors que les développeurs s'efforcent de construire des outils de plus en plus performants et que les entreprises se précipitent pour les déployer dans le but de réaliser des gains d'efficacité et des bénéfices financiers. Cependant, un nouveau rapport d'EqualAI, une organisation à but non lucratif consacrée à la promotion d'une gouvernance responsable de l'IA, avertit que les organisations déploient des systèmes d'IA sans cadres de gouvernance adéquats pour gérer les risques associés.

Cet avertissement fait suite à un incident très médiatisé survenu cette semaine, lors duquel un test interne de modèles d'IA mené par OpenAI, l'entreprise derrière ChatGPT, a conduit les modèles à exploiter une faille logicielle, à s'échapper de leur environnement confiné et à pirater Hugging Face — une plateforme où les développeurs collaborent au code des modèles d'IA — afin de tricher à une évaluation de cybersécurité. Bien qu'OpenAI et Hugging Face aient contenu l'incident, il a mis en évidence la capacité de plus en plus grande des modèles d'IA à contourner les garde-fous et à générer des menaces pour la cybersécurité. Les dirigeants des deux entreprises ont reconnu l'importance de ce qui s'était passé.

Miriam Vogel, PDG d'EqualAI, qui préside également le Comité consultatif national américain sur l'IA, a publié cette semaine un livre blanc sur la gouvernance et le déploiement de l'IA. Elle a déclaré à FOX Business : « L'innovation avance à un rythme sans précédent ; le problème, c'est que la gouvernance ne suit pas ce rythme. »

« Ce que nous voulons que les gens reconnaissent à la suite de cet incident, c'est que, de manière générale, nous devons mettre en place des attentes plus fortes si nous voulons commencer à instaurer la confiance et garantir que ces systèmes méritent notre confiance », a-t-elle ajouté.

Mme Vogel a souligné que la plupart des consommateurs interagissent avec l'IA par l'intermédiaire d'entreprises qui ont déployé des solutions d'IA plutôt que par les développeurs qui ont conçu les modèles sous-jacents. Elle a cité les conclusions du Forum économique mondial indiquant que moins de 1 % des entreprises disposent d'une gouvernance robuste pour les systèmes d'IA, tandis que McKinsey a rapporté l'an dernier que moins d'un tiers des entreprises disposent d'un cadre de gouvernance de l'IA quel qu'il soit. Ce manque persiste alors même que les gouvernements s'efforcent d'établir des garde-fous réglementaires, notamment la loi sur l'IA de l'Union européenne et le décret américain sur la sécurité de l'IA publié fin 2023.

« Je pense que trop de personnes partent du principe que c'est le problème de quelqu'un d'autre, que c'est le problème du développeur, ou bien ne comprennent tout simplement pas que c'est leur problème », a déclaré Mme Vogel.

Bien que l'incident entre OpenAI et Hugging Face ait concerné une entreprise de développement, Mme Vogel a noté que le défi plus large de la gouvernance se posera principalement pour les déploiements. « C'est dans les secteurs de la santé, des finances, des réseaux sociaux, des infrastructures — toutes les autres façons dont [les entreprises] utilisent l'IA agentique », a-t-elle expliqué. L'IA agentique désigne les systèmes capables d'entreprendre des actions autonomes pour atteindre des objectifs, élargissant ainsi l'éventail de décisions que l'IA peut prendre sans supervision humaine directe.

Les tribunaux appliquent de plus en plus la responsabilité aux entreprises qui déploient l'IA agentique dans leurs opérations orientées clients ou entreprises, plutôt qu'aux firmes qui ont développé le modèle ou l'outil d'IA original, a indiqué Mme Vogel.

« Une grande partie de cela devient la responsabilité de la personne qui a eu le dernier contact avec le système, dont les données sont impliquées, dont le client est impliqué. C'est souvent cette personne qui assume la responsabilité », a-t-elle ajouté.

Malgré ce manque de gouvernance, Mme Vogel a noté qu'un consensus émerge parmi les principales organisations mondiales sur les meilleures pratiques en matière d'IA. « Ils y sont tous arrivés indépendamment, et il existe vraiment un large consensus sur ce que sont les meilleures pratiques », a-t-elle déclaré.

« L'autre bonne nouvelle, c'est que la plupart de cela n'a rien de sorcier : c'est du leadership et une bonne gouvernance tout simplement appliqués à l'IA », a ajouté Mme Vogel.

Le livre blanc d'EqualAI identifie cinq domaines principaux que les entreprises devraient aborder lors de l'établissement d'une gouvernance de l'IA agentique. Le premier est la visibilité — comprendre quels outils d'IA sont utilisés au sein de l'organisation, car les dirigeants peuvent ne pas pleinement saisir l'empreinte IA de leur entreprise ni les opportunités et les risques qu'elle présente. Le deuxième est la responsabilisation, en assurant une responsabilité claire à tous les niveaux de direction et dans toutes les divisions de l'entreprise.

Le troisième volet consiste à opérationnaliser les principes d'IA. Mme Vogel a expliqué qu'il s'agit de traduire en actions concrètes les principes énoncés dans des documents, par exemple en établissant des protocoles de communication sur les problèmes qui surviennent. Ce processus dépend de la confiance interne et d'une culture de responsabilité partagée au sein de l'organisation.

Le quatrième pilier consiste à mettre en place des boucles de rétroaction utilisables de manière récurrente à mesure que les outils et modèles d'IA évoluent et s'améliorent. Cela permet aux organisations d'anticiper des problèmes tels que la dérive des modèles et peut prendre la forme d'un plan structuré avec un rythme de tests réguliers.

Le cinquième et dernier pilier est l'alphabétisation à l'IA, que Mme Vogel a reliée à ce qu'elle a décrit comme une méfiance publique croissante à l'égard de l'IA. Elle a averti que les craintes commencent à éclipser l'enthousiasme pour cette technologie.

« Je pense que cela relève non seulement de l'infrastructure globale de gouvernance qui fait défaut dans la plupart des organisations, mais aussi de cet élément fondamental de la gouvernance de l'IA qu'est l'alphabétisation à l'IA », a expliqué Mme Vogel. « La plupart des gens ne savent pas qu'ils utilisent l'IA, ils ne veulent pas utiliser l'IA, ils ne savent pas comment l'utiliser. »

« L'alphabétisation à l'IA est tout simplement une variable clé pour s'assurer que les gens comprennent comment l'utiliser, qu'ils savent comment éviter les risques parce qu'ils ne veulent pas causer de tort ni créer de responsabilité pour eux-mêmes ou pour leur organisation », a-t-elle poursuivi. « S'assurer que vos collaborateurs et vos consommateurs comprennent comment vous utilisez l'IA, comment vous ne l'utiliserez pas et comment elle peut les bénéficier est une variable clé. »