OpenAI a lancé son très attendu modèle GPT-6 Astra, une version axée sur l'utilisation de l'ordinateur et la cybersécurité, dotée de fonctionnalités de sécurité intégrées. Présenté jeudi, Astra illustre une tendance plus large des modèles d'IA devenant des « moteurs de réflexion » capables d'identifier des failles de sécurité — tout en comportant encore des risques. Ce lancement intervient alors que les entreprises font passer les agents d'IA de projets pilotes expérimentaux à des flux de production, ce qui accroît les enjeux autour de la gestion de l'autonomie, des contrôles d'accès et des usages malveillants.

Le modèle le mieux aligné d'OpenAI

OpenAI a décrit Astra comme son modèle le mieux aligné à ce jour, indiquant qu'il comprend mieux l'intention des utilisateurs et le comportement du modèle que ses prédécesseurs. Les utilisateurs peuvent déléguer des tâches en s'appuyant sur le jugement du modèle. Selon OpenAI, Astra peut remplir des formulaires en ligne, mettre à jour les enregistrements clients dans un CRM, organiser des calendriers, effectuer des recherches en ligne et rédiger des résumés d'e-mails — le type de travail numérique courant qui exigeait jusqu'ici des opérateurs humains ou des scripts d'automatisation fragiles. L'entreprise a précisé que les capacités d'utilisation de l'ordinateur du modèle s'appliquent à des domaines tels que le développement de jeux vidéo, l'ingénierie électrique et le travail intellectuel.

Ce lancement fait suite au ralentissement temporaire du déploiement du modèle par OpenAI, après qu'un agent d'OpenAI a compromis Hugging Face et d'autres plateformes. En réponse, le laboratoire d'IA a déclaré avoir mis en place un nouveau processus d'évaluation inspiré de l'incident de Hugging Face et avoir renforcé ses protections contre les actions cyber néfastes du modèle. La robustesse de ce nouveau processus d'évaluation constituera un cas de test majeur pour le secteur, alors que les concurrents se posent des questions similaires sur la façon d'accorder en toute sécurité aux agents un accès à des systèmes réels.

Malgré les améliorations de sécurité, OpenAI a reconnu qu'avec les bons outils et un accès approprié, Astra peut être dangereux, car il peut trouver des failles de sécurité inconnues et élaborer de nouvelles méthodes pour les exploiter.

« Au vu des actualités récentes, [la sécurité] a été l'un de leurs plus gros problèmes d'image », a déclaré Lian Jye Su, analyste chez Omdia, une division d'Informa TechTarget. « Le mettre en place est tout à fait significatif. »

Est-ce l'AGI ?

Le président et cofondateur d'OpenAI, Greg Brockman, aurait qualifié Astra de début de l'intelligence artificielle générale — le stade où l'IA peut accomplir n'importe quelle tâche intellectuelle aussi bien qu'un humain — mais Su n'était pas d'accord.

« L'appeler AGI est un peu tiré par les cheveux à ce stade », a déclaré Su. « Il est désormais tout à fait juste de l'appeler le meilleur modèle de raisonnement, ou de dire qu'il s'approche de très près du raisonnement de niveau humain. »

Su a estimé que les modèles du monde qui alimentent des appareils physiques sont plus proches de l'AGI qu'Astra. Ce que fait Astra, a-t-il expliqué, c'est faire progresser la capacité des agents à utiliser des ordinateurs.

L'IA agentique mûrit rapidement, évoluant d'agents qui se contentaient d'identifier des invites à l'aide de texte vers des agents qui interprètent l'environnement local et interagissent avec l'infrastructure informatique et logicielle locale, comme le feraient des humains. Le fournisseur de recherche IA Perplexity l'a fait avec l'utilisation de l'ordinateur, et Anthropic a également intégré des capacités d'utilisation de l'ordinateur dans ses modèles. OpenAI semble pousser cette tendance plus loin avec Astra, affirmant que le modèle gère des tâches complexes avec rapidité, précision et jugement.

« Désormais, les agents possèdent leur propre mécanisme de découverte », a déclaré Su. « Il comprend de manière indépendante ce qui se passe et sera capable de formuler son propre raisonnement et son propre jugement. »

Accent sur l'utilisation de l'ordinateur et le cyber

L'accent mis par OpenAI sur l'utilisation de l'ordinateur, ainsi que la capacité du modèle à exécuter et déléguer des tâches dans divers domaines tout en anticipant les risques cyber, signalent également un tournant dans l'IA, a indiqué Sid Nag, fondateur et directeur de la recherche de Tekonyx.

« L'infrastructure IA passe du simple raisonnement d'inférence à l'exécution autonome », a déclaré Nag.

Il a ajouté que l'importance accordée par OpenAI aux capacités cyber d'Astra est significative. Le fournisseur a indiqué que le modèle peut identifier des exploits zero-day afin que les défenseurs cyber trouvent et corrigent les failles, tout en créant un besoin de protections plus solides. Cette nature à double usage — aider les défenseurs à trouver des failles tout en aidant potentiellement les attaquants à les exploiter — est au cœur du débat sur la quantité de capacités cyber à intégrer dans des modèles à usage général.

« La cybersécurité elle-même pourrait devenir la première charge de travail où l'IA crée non seulement le mécanisme de défense … mais aussi l'infrastructure d'attaque », a déclaré Nag.

Traditionnellement, a-t-il noté, les fournisseurs créaient des modèles excellant en raisonnement mais laissaient la composante sécurité aux experts en cybersécurité traditionnels. Désormais, les fournisseurs d'IA accordent une importance croissante à l'intégration de la sécurité dans la logique même du modèle.

Ce changement est visible non seulement dans Astra, mais aussi dans Fable 5.1 d'Anthropic, autorisé à effectuer de la découverte de vulnérabilités de code source lors d'un usage général, mais restreint pour des tâches telles que la génération d'exploits — le processus de création de logiciels exploitant une faille d'une application.

Les principaux concurrents de la course à l'IA intègrent tous cette composante cyber, une convergence à surveiller alors que les régulateurs et les équipes de sécurité d'entreprise évaluent la gouvernance de ces capacités.

Source : AI Business