La tribune suivante est signée Samuel Vance-Law, directeur de la recherche au Decentralization Research Center. Il y soutient que, pour que les audits prévus par l'accord de la Maison-Blanche sur l'IA aient une quelconque valeur, les auditeurs devraient pouvoir choisir ce qu'ils testent.

La semaine dernière, six des entreprises d'intelligence artificielle les plus puissantes au monde ont promis à la Maison-Blanche qu'elles laisseraient des tiers vérifier leur travail.

Le 29 septembre, Nvidia, OpenAI, Anthropic, Google, Meta et xAI ont signé un accord portant sur les modèles d'IA les plus avancés, un accord que le président américain Donald Trump a qualifié de « moralement contraignant ». Chaque entreprise s'est engagée à « s'associer à un auditeur ou évaluateur externe indépendant » et à faire examiner les rapports des auditeurs par des administrateurs indépendants afin de garantir la correction des problèmes identifiés.

Les audits externes sont une bonne idée, et Vance-Law se félicite de leur inclusion. Mais cet accord, écrit-il, ne dit rien sur le choix des auditeurs, sur ce qu'ils peuvent examiner ou sur la publication éventuelle des conclusions — et aucune sanction n'est prévue en cas de non-respect. En l'état, chaque entreprise choisit son propre auditeur et décide de ce que cet auditeur est autorisé à examiner.

Cet arrangement rappelle un épisode emblématique de l'histoire des entreprises. En 2000, Enron a versé au cabinet d'audit Arthur Andersen — autrefois membre des « Big Five » de l'audit international, devenus « Big Four » après l'implosion d'Arthur Andersen — 25 millions de dollars pour auditer ses comptes, et 27 millions de dollars supplémentaires pour des missions fiscales et de conseil. En deux ans, les deux sociétés s'étaient effondrées. Le Congrès a répondu avec le Sarbanes-Oxley Act de 2002, qui a retiré à la direction le choix de l'auditeur — précisément le pouvoir que le nouvel accord laisse à chaque entreprise d'IA —, interdit aux auditeurs de vendre la plupart des autres services aux entreprises qu'ils auditent et créé un organisme public chargé d'inspecter les auditeurs eux-mêmes.

Andersen n'a pas échoué par manque d'expertise, mais parce qu'il n'avait aucune incitation à examiner rigoureusement un client qui lui versait 52 millions de dollars en une seule année.

Les engagements volontaires dans l'industrie de l'IA n'ont pas un meilleur bilan. En 2023, les principales entreprises d'IA ont pris un ensemble d'engagements volontaires auprès de la Maison-Blanche, dont celui de laisser des experts indépendants tester leurs systèmes avant leur publication. Lorsque des chercheurs de Stanford, Harvard et Brown ont évalué 16 entreprises au regard de ces engagements, la moyenne s'est établie à 53 %. Sur la promesse d'aider des tiers à détecter et signaler les problèmes, huit des 16 entreprises ont obtenu la note deéro.

Même lorsque des tests externes ont lieu, c'est le développeur qui fixe les conditions. METR, une organisation à but non lucratif qui teste des modèles d'IA, a écrit que son évaluation du modèle o3 d'OpenAI avant sa publication s'était « déroulée sur seulement trois semaines », avec un « accès limité aux informations sur le modèle » et sans accès au raisonnement étape par étape du modèle. Il est vrai qu'OpenAI a permis que ces tests aient lieu — mais l'épisode montre à quel point tout dépend de ce qu'une entreprise choisit de partager.

Un modèle d'IA entraîné est essentiellement un très gros fichier de nombres, dont la production coûte souvent plus de 100 millions de dollars, et quiconque en possède une copie possède le modèle. Remettre des copies à des tiers constitue un risque de sécurité. Jusqu'à récemment, cela laissait aux testeurs un choix embarrassant, que Google DeepMind a bien décrit : soit les testeurs remettent leurs questions, et l'entreprise connaît l'examen à l'avance, soit l'entreprise remet son modèle.

En août, DeepMind a montré comment sortir de ce dilemme. En collaboration avec l'AI Safety Institute de Singapour et trois autres groupes externes, il a mené ce qu'il présente comme le premier test en double aveugle d'un modèle d'IA, sur le même principe qu'un essai médicamenteux en double aveugle. Le test s'est déroulé sur du matériel informatique scellé, si bien que les testeurs externes n'ont jamais vu le modèle et que Google n'a jamais vu leurs questions. Google affirme que chaque partie peut vérifier mathématiquement que ses données sont restées confidentielles.

Cette approche déplace également la confiance vers le matériel lui-même. L'an dernier, des chercheurs sont parvenus à pénétrer ce type de matériel scellé avec moins de 1 000 dollars d'équipement, bien qu'ils aient eu besoin d'un accès physique au serveur. Cela mérite d'être pris au sérieux, mais le problème est bien plus réduit que « nous ne pouvons laisser personne approcher le modèle », et il peut être géré en veillant soigneusement au contrôle des machines.

L'argument s'appuie sur le rapport « Alternatives to Concentrated AI », publié cette semaine par le Decentralization Research Center. Pour ce rapport, Vance-Law et son co-auteur Kyle Bligen ont interrogé 36 personnes et recensé près de 30 alternatives opérationnelles au contrôle concentré de l'IA. Conclusion principale : des tiers peuvent désormais examiner l'IA avancée sans prendre possession du modèle ni de ses données.

Pour que les audits prévus par l'accord aient une quelconque valeur, soutient Vance-Law, les auditeurs devraient choisir ce qu'ils testent, désormais qu'ils peuvent le faire sans prendre une copie du modèle. Les entreprises devraient également indiquer qui sont leurs auditeurs et ce que les audits ont couvert, même si les conclusions détaillées restent confidentielles — les sociétés cotées nomment leurs auditeurs depuis des décennies sans dévoiler de secrets commerciaux. Et les comités du conseil qui lisent ces rapports devraient rendre des comptes à quelqu'un de l'extérieur de l'entreprise. Sarbanes-Oxley a créé un inspecteur des inspecteurs. L'accord n'a rien de tel, et il appartient au Congrès de décider de combler cette lacune.

Note : les opinions exprimées dans cette tribune sont celles de l'auteur et ne reflètent pas nécessairement celles de CoinDesk, Inc. ou de ses propriétaires et affiliés.