Une coalition d’organisations du secteur des actifs numériques, menée par le Bitcoin Policy Institute, appelle les laboratoires d’IA de pointe à fournir à des défenseurs qualifiés de la sécurité open source un accès de confiance à des modèles d’IA avancés. Le groupe estime que les développeurs ont besoin d’outils plus puissants pour auditer les logiciels financiers, les portefeuilles, les bibliothèques cryptographiques et d’autres infrastructures essentielles de l’écosystème des cryptomonnaies.

La coalition demande des environnements de test sécurisés, une capacité de calcul suffisante et des canaux de communication directs pour une divulgation coordonnée des vulnérabilités. Selon le Bitcoin Policy Institute, les développeurs open source ont souvent un accès limité à des modèles avancés de cybersécurité, et les systèmes publics de pointe peuvent entraver des recherches légitimes en sécurité en raison de leurs contrôles de sécurité intégrés. Les laboratoires de pointe — des sociétés telles qu’OpenAI, Anthropic et Google DeepMind qui développent les systèmes d’IA les plus performants — ont mis en place des garde-fous de sécurité capables de refuser ou de limiter des requêtes portant sur l’analyse de code, l’identification d’exploits et les tests de vulnérabilités, même lorsque la demande émane d’un défenseur légitime.

La coalition pointe un déficit d’accès à la sécurité de l’IA

En conséquence de ces restrictions, certains défenseurs sont contraints de s’appuyer sur des modèles open-weight moins performants pour leurs revues de sécurité. La coalition estime que cela crée une asymétrie entre les défenseurs et des acteurs malveillants qui pourraient déjà utiliser des capacités d’IA plus puissantes.

Le groupe a souligné que le problème touche l’infrastructure qui sous-tend Bitcoin et l’ensemble du secteur des actifs numériques. Cette infrastructure comprend les dispositifs de signature, les bibliothèques cryptographiques, les systèmes de conservation des actifs, les plateformes d’échange et les réseaux de paiement. L’institut a indiqué que Bitcoin à lui seul sécurise plus de $1 trillion de valeur, tandis que l’écosystème plus large des actifs numériques représente des trillions de dollars à travers des infrastructures connexes. Une grande partie de cette infrastructure est maintenue par de petites équipes open source ou des contributeurs bénévoles, une structure différente du développement logiciel d’entreprise où des budgets dédiés à la sécurité et des équipes de sécurité spécialisées sont la norme.

Les outils d’IA comme aide à la détection des vulnérabilités

La coalition a indiqué que l’IA avancée peut analyser de vastes bases de code et signaler des faiblesses potentielles, ce qui pourrait accélérer des travaux de sécurité complexes pour les défenseurs comme pour les attaquants. Cependant, les laboratoires de pointe et certains partenaires sélectionnés accèdent actuellement à des capacités cyber émergentes avant le reste des utilisateurs, laissant les défenseurs open source qualifiés sans outils comparables.

Le Bitcoin Policy Institute a indiqué que des mainteneurs ont été confrontés à des attaques sophistiquées exerçant une forte pression sur de petites équipes de développement. Selon l’institut, certains de ces incidents impliquaient de possibles adversaires étrangers exploitant des capacités avancées d’IA.

Malgré ces limites, les développeurs continuent d’utiliser les modèles open-weight disponibles pour examiner des portefeuilles, des protocoles et des outils open source. L’institut a affirmé que ces efforts ont déjà permis d’identifier des problèmes de sécurité et d’apporter des correctifs.

Des programmes d’accès de confiance sont proposés

La coalition demande un accès plus précoce à des modèles plus puissants avant que des attaquants n’obtiennent largement des capacités similaires, ainsi que des budgets de calcul raisonnables pour soutenir des revues de sécurité de longue durée.

Dans le cadre proposé, les programmes offriraient un accès contrôlé à des modèles avancés capables de traiter des enjeux cyber, avec un accès en prépublication lorsque cela est approprié et des environnements sécurisés pour l’examen de code privé. La coalition envisage une éligibilité pour les organisations à but non lucratif, les mainteneurs indépendants, les entreprises commerciales et les entités gouvernementales.

Des canaux de communication directs avec les équipes de sécurité des laboratoires d’IA faciliteraient la divulgation responsable et la remédiation. Le secteur des actifs numériques a indiqué qu’il pouvait aider à identifier des participants crédibles, à établir des normes de participation et à coordonner les efforts de remédiation lorsque des problèmes de sécurité sont découverts.