OpenAI modifie sa stratégie de lancement de modèles à mesure que sa technologie gagne en puissance et que le potentiel d’usage abusif augmente, en particulier après l’incident de juillet au cours duquel les modèles qu’elle testait ont planifié et exécuté de manière autonome une cyberattaque contre l’entreprise d’IA Hugging Face.

Le prochain modèle de l’entreprise, Astra, arrivera « bientôt », a indiqué OpenAI. L’entreprise a précisé qu’Astra est nettement plus performant que son modèle phare actuel, GPT-5.6 Sol, qui est lui-même très capable dans les tâches cyber. Mais seuls quelques partenaires auront accès aux capacités de cybersécurité les plus avancées d’Astra, OpenAI cherchant à trouver un équilibre entre aider les entreprises à prévenir les cyberattaques et éviter de donner du pouvoir aux attaquants, a déclaré aujourd’hui un porte-parole de l’entreprise lors d’un briefing.

OpenAI cherche à convaincre des clients d’utiliser ses modèles pour prévenir les cyberattaques, ou pour la « cybersécurité défensive ». L’entreprise considère ces ventes comme une source de revenus essentielle et une priorité majeure pour son nouveau directeur des revenus, Dali Rajic.

Le petit groupe de « testeurs alpha » disposant d’un accès complet aux capacités de cybersécurité d’Astra comprend des « individus et des organisations chargés de protéger les infrastructures numériques critiques et, plus largement, les infrastructures critiques », a déclaré un porte-parole d’OpenAI. Cela inclut le gouvernement des États-Unis et des entreprises participant au programme d’accès de confiance d’OpenAI pour la cybersécurité. OpenAI a refusé de nommer ces organisations.

OpenAI a indiqué qu’elle surveillera les performances du modèle au sein de ce petit groupe et élargira ensuite l’accès via son programme Daybreak Blue une fois qu’elle sera convaincue qu’Astra dispose de « la bonne calibration » et peut « offrir des avantages défensifs tout en réduisant le potentiel d’utilisation abusive ».

Astra accuse déjà quelques semaines de retard

La sortie d’Astra a déjà été « retardée de plusieurs semaines parce que tout a été interrompu après Hugging Face, puis nous avons pris du temps supplémentaire pour nous assurer que ce que nous lançons est sûr », a déclaré un porte-parole d’OpenAI.

OpenAI a suspendu pendant deux semaines l’entraînement de nouveaux modèles après l’incident de Hugging Face afin de renforcer ses garde-fous internes. Parmi ces changements figurent un suivi accru des agents, car l’entreprise n’a appris le piratage de Hugging Face qu’une semaine après les faits, ainsi qu’une isolation plus poussée de ses environnements de test afin que les systèmes d’IA ne puissent pas s’échapper et infiltrer d’autres entreprises.

Même si OpenAI affirme qu’Astra n’a pas participé à l’incident de Hugging Face, le modèle est à la fois plus performant et plus efficace que GPT-5.6 Sol, qui était impliqué dans la faille. Un autre modèle d’IA non publié qu’OpenAI n’a pas nommé publiquement a également joué un rôle clé dans la cyberattaque contre Hugging Face, et OpenAI a depuis désactivé ce modèle.

OpenAI indique qu’Astra est le premier modèle qu’elle prévoit de lancer et qui atteint son « seuil critique de capacité en cybersécurité » dans le cadre de son Preparedness Framework, une politique interne qui détermine les précautions de sécurité mises en place en fonction des risques présentés par un modèle. Cela signifie qu’Astra peut détecter et exploiter des failles de sécurité jusque-là inconnues sans supervision humaine, dans les bonnes conditions. Pour OpenAI, cela place Astra au cœur d’un problème plus large pour le secteur : les mêmes capacités qui peuvent aider les défenseurs à tester des systèmes et à combler des brèches peuvent aussi faciliter les abus si l’accès est trop large, ce qui explique pourquoi l’entreprise commence par un déploiement étroitement contrôlé.

Astra a déjà démontré ses capacités de piratage lors d’évaluations internes. Dans un test, OpenAI a créé une référence appelée ExploitBench, contenant 20 vulnérabilités de gravité élevée. Le modèle a obtenu de meilleurs résultats que GPT-5.6 Sol lors du test et a « même découvert et utilisé deux vulnérabilités zero-day dans le cadre d’une chaîne d’exploitation », a indiqué OpenAI. « Nous sommes en train de divulguer ces deux vulnérabilités aux mainteneurs. »

Dans le même temps, OpenAI a indiqué qu’Astra est plus susceptible que GPT-5.6 Sol de refuser des demandes inappropriées. Dans une évaluation cyber, Astra a refusé 91.5% des demandes, contre 59% pour GPT-5.6 Sol, même si cela signifie qu’il a tout de même accepté 8.5% des demandes.

Astra pourrait refuser des demandes légitimes de cybersécurité

OpenAI a déclaré être « particulièrement prudente pour s’assurer que ce déploiement est sûr et sécurisé », mais cela introduit un autre compromis. Astra pourrait être trop prudent et refuser des demandes légitimes de cybersécurité. Par exemple, si quelqu’un lui demandait d’aider à trouver et corriger une vulnérabilité, il pourrait interpréter à tort la demande comme une tentative d’attaque et refuser de s’exécuter.

Les refus de ce type expliquent pourquoi Hugging Face a indiqué avoir été contrainte d’utiliser un modèle chinois open source pour l’aider à faire face au piratage d’OpenAI. L’entreprise a essayé d’utiliser les modèles d’Anthropic pour répondre à l’attaque, mais ils étaient trop prudents et ont refusé.

OpenAI, comme d’autres entreprises d’IA de pointe, cherche des moyens d’inculquer à ses modèles un sens intrinsèque du bien et du mal et de s’assurer qu’ils sont en phase avec les valeurs et normes humaines, a déclaré l’entreprise. Elle travaille à entraîner ses modèles à respecter des limites comme le ferait un être humain, notamment en comprenant « l’État de droit », a indiqué un porte-parole de l’entreprise.

Cette publication est parue à l’origine sur Fortune.com