OpenAI fournira 1 milliard de dollars d'accès subventionné à ses modèles de cybersécurité au cours des six prochains mois. Le programme est conçu pour aider les organisations à se défendre contre les attaques assistées par l'IA et les failles logicielles que des attaquants pourraient exploiter avant que les développeurs ne publient des correctifs.

L'initiative arrive alors que les infrastructures critiques et les logiciels open source sont devenus des cibles récurrentes d'incidents de sécurité, et que les défenseurs ont averti que les outils d'IA peuvent raccourcir le délai entre la découverte d'une vulnérabilité et son exploitation.

Le soutien comprend un accès à tarif réduit à Daybreak, le produit de cybersécurité d'OpenAI, ainsi qu'une assistance technique et une formation en cybersécurité. Selon OpenAI, environ 2 000 organisations utilisent déjà le service.

OpenAI élargit son programme de cybersécurité Daybreak

Daybreak propose deux niveaux de service. Blue utilise les modèles standard d'OpenAI pour les tâches défensives courantes, tandis que Red donne aux organisations approuvées accès à des modèles cyber spécialisés pour des tâches de sécurité plus sensibles.

Les utilisateurs prioritaires du programme comprennent les systèmes d'eau, les fournisseurs d'électricité, les gouvernements étatiques et locaux, les banques communautaires, les organisations à but non lucratif et les mainteneurs de logiciels open source. Les plateformes d'échange crypto, les dépositaires et les réseaux blockchain ne figurent pas directement sur la liste des priorités.

Les projets crypto open source peuvent toutefois être éligibles, car beaucoup reposent sur de petites équipes de développement. Bitcoin Core, les clients Ethereum et les bibliothèques DeFi soutiennent des systèmes qui protègent de grandes quantités d'actifs numériques.

L'annonce fait suite à de récents problèmes de sécurité dans les logiciels crypto. En août, une faille dans BTCPay Server a exposé des identifiants liés à des nœuds Lightning, et des attaquants ont utilisé cette vulnérabilité pour voler des fonds avant que les développeurs ne publient un correctif. Core Lightning a également conseillé aux opérateurs de déconnecter leurs systèmes après que des rapports de vulnérabilité générés par IA ont révélé plusieurs failles réelles. Coldcard a ensuite publié un nouveau firmware après un vol majeur et indiqué que des modèles d'IA de pointe avaient aidé à détecter des bugs sans rapport.

Astra soulève de nouvelles préoccupations en matière de sécurité

OpenAI a également révélé que son modèle Astra peut identifier des failles logicielles inconnues et les transformer en attaques fonctionnelles avec une supervision humaine limitée, sans instructions étape par étape. Cette capacité a renforcé les inquiétudes quant à la manière dont les outils d'IA avancés pourraient remodeler le risque cyber, et elle alimente un débat plus large au sein de la communauté de la sécurité sur la part de capacités offensives que les laboratoires d'IA devraient divulguer ou restreindre.

Plus de trois douzaines d'entreprises, dont Coinbase, Block, BitGo, Blockstream et ARK Invest, ont par la suite signé une lettre ouverte aux laboratoires d'IA demandant un accès anticipé aux modèles puissants pour des travaux de sécurité défensive. Ces entreprises ont estimé que les développeurs responsables des principaux systèmes crypto disposent souvent d'outils plus faibles que les attaquants, et leur demande visait à donner aux équipes de sécurité un meilleur accès aux modèles d'IA avancés avant que des criminels ne puissent utiliser des systèmes similaires.

Les organisations éligibles peuvent candidater via le site web de Daybreak. OpenAI prévoit également d'étendre le programme aux pays partenaires dans les semaines à venir, un déploiement qui permettra de tester si l'accès défensif aide les organisations à répondre plus rapidement aux menaces. La définition de l'éligibilité pour les entreprises crypto et les mainteneurs open source, et la question de savoir si l'accès subventionné raccourcit mesurablement les délais de correctif, figureront parmi les points à surveiller à mesure que le programme s'étendra.

Source : CoinCentral