ActualitésMacroOpenAI signale Astra comme premier modèle à atteindre le seuil critique de sécurité cybersécurité

OpenAI signale Astra comme premier modèle à atteindre le seuil critique de sécurité cybersécurité

Auteur: Hokanews·

Points clés

  • •OpenAI a classé Astra comme Critique pour la première fois dans le cadre de son Preparedness Framework.
  • •Les évaluations ont révélé qu'Astra pouvait identifier des vulnérabilités inconnues et construire des chaînes d'exploitation lorsqu'il disposait d'outils et d'un accès.
  • •OpenAI a indiqué qu'Astra a surpassé GPT-5.6 Sol en identification de vulnérabilités et en développement d'exploits, tout en utilisant moins de tokens de sortie.
  • •L'entreprise a renforcé l'isolement, restreint l'accès aux réseaux et aux outils, ajouté de la surveillance et durci les contrôles sur les poids du modèle.
  • •Les capacités avancées de cybersécurité seront d'abord accessibles à un petit groupe de testeurs alpha avant un accès défensif plus large via Daybreak Blue.
OpenAI signale Astra comme premier modèle à atteindre le seuil critique de sécurité cybersécurité

Le futur modèle d'IA d'OpenAI, Astra, a atteint un niveau de capacité en cybersécurité que l'entreprise classe comme « Critique », déclenchant des garanties supplémentaires avant la publication du modèle, selon Cointelegraph. Cette désignation marque la première fois qu'OpenAI attribue cette classification à l'un de ses modèles dans le cadre de son Preparedness Framework, le système de gradation des risques introduit en 2023 pour évaluer les modèles de pointe face aux risques catastrophiques avant leur déploiement.

Selon OpenAI, ses évaluations ont révélé qu'Astra — disposant des outils et accès appropriés — peut identifier des vulnérabilités de sécurité jusque-là inconnues et élaborer des moyens de les exploiter sur des systèmes bien protégés, sans guidance humaine. Ces résultats ont conduit l'entreprise à imposer des contrôles de sécurité renforcés, tant pendant le développement qu'avant le déploiement.

Un nouveau seuil pour les capacités de cybersécurité de l'IA

Dans le cadre du Preparedness Framework d'OpenAI, le seuil Critique s'applique aux modèles capables d'identifier et de développer des exploits zero-day fonctionnels contre des systèmes critiques réels renforcés sans intervention humaine, ou de concevoir et d'exécuter de manière autonome des cyberattaques novatrices de bout en bout contre des cibles renforcées. Le cadre évalue les modèles selon des catégories de risques telles que la cybersécurité, et des évaluations plus élevées sont censées déclencher des conditions de déploiement progressivement plus strictes.

OpenAI a déclaré qu'Astra a démontré des capacités supérieures à celles de GPT-5.6 Sol en matière d'identification de vulnérabilités et de développement d'exploits, tout en utilisant moins de tokens de sortie. Lors d'une évaluation, Astra a obtenu un score de 100 % sur ExploitBench. Les tests internes ont également révélé que le modèle avait découvert et utilisé deux vulnérabilités zero-day dans le cadre d'une chaîne d'exploitation.

Des contrôles renforcés avant la publication

L'entreprise a retardé une partie du développement et de la publication d'Astra tout en renforçant les protections contre les abus cybercriminels et les actions non autorisées du modèle. Ces mesures comprennent un isolement plus strict, un accès restreint aux réseaux et aux outils, une surveillance supplémentaire et des contrôles renforcés autour des poids du modèle.

OpenAI a également indiqué qu'Astra est entraîné à refuser de manière plus fiable les demandes de cybersécurité nuisibles. Lors de ses évaluations de cyber-jailbreak, le modèle a refusé 91,5 % des demandes interdites, contre 59 % pour GPT-5.6 Sol. Les capacités avancées de cybersécurité seront initialement limitées à un petit groupe de testeurs alpha, un accès défensif plus large étant prévu via Daybreak Blue — une structure d'accès qui reflète la façon dont d'autres déploiements d'IA à haute capacité ont associé un déploiement restreint à des cas d'usage défensifs vérifiés.

Implications pour l'industrie de l'IA

La classification d'Astra souligne un défi croissant pour les développeurs d'IA : les avancées qui peuvent améliorer la recherche sur les vulnérabilités et la cyberdéfense peuvent simultanément accroître l'ampleur et la vitesse potentielles des activités malveillantes. Cette découverte intervient alors que se poursuit un débat plus large, dans l'industrie et parmi les décideurs politiques, sur la gouvernance des systèmes d'IA dotés de capacités offensives en matière de cybernétique, les régulateurs et les chercheurs en sécurité pesant le fait de savoir si des cadres volontaires suffisent pour les modèles franchissant de tels seuils.

En réponse, OpenAI s'est orientée vers un modèle de déploiement plus restrictif à mesure que les capacités augmentent, combinant des refus au niveau du modèle avec de la surveillance, des contrôles d'accès et des mesures de confinement. Cette approche reflète l'effort plus large de l'entreprise pour garantir que les systèmes de sécurité suivent le rythme des agents d'IA de plus en plus autonomes. La manière dont les autres développeurs de modèles de pointe — et les chercheurs qui les auditent — réagiront à des seuils de capacité comparables devrait façonner les normes émergentes en matière de déploiement sécurisé de l'IA.

OpenAI a déclaré prévoir de rendre Astra disponible prochainement, avec plus de détails sur ses évaluations de sécurité, de sûreté et d'alignement attendus dans la system card du modèle lors de son lancement — le document dans lequel l'entreprise a déjà divulgué les résultats d'évaluation de ses modèles de pointe.