OpenAI a classé en interne GPT-5 comme modèle à haut risque à l’été 2025 après avoir déterminé qu’il pouvait aider des utilisateurs disposant d’une formation limitée à créer des dangers biologiques, selon The Wall Street Journal. Des employés ont continué à identifier des réponses problématiques après la sortie du modèle, mais OpenAI a abaissé la note de risque de GPT-5 cet automne-là, selon le rapport.

De telles évaluations sont au cœur de la manière dont les laboratoires d’IA décident si les modèles de pointe nécessitent des garde-fous supplémentaires avant ou après leur lancement, en particulier dans des domaines comme la biosécurité, où des instructions dangereuses peuvent recouper des travaux scientifiques ou médicaux légitimes. Depuis l’été dernier, des centaines d’utilisateurs auraient demandé à ChatGPT comment fabriquer des armes biologiques et des poisons. Dans certains cas, des utilisateurs ont reçu des instructions étape par étape que des employés ont jugées accessibles même à des élèves de biologie du secondaire. Des dirigeants de l’entreprise auraient également indiqué au personnel que les modèles d’OpenAI ne devraient pas dire « non » trop souvent, afin d’éviter de bloquer des chercheurs en santé légitimes.

OpenAI a suspendu les comptes concernés, selon le rapport, mais n’a signalé aucun incident aux autorités. L’entreprise n’y est pas légalement tenue.

Cette affaire s’ajoute à un débat non tranché sur la question de savoir si les chatbots créent de nouveaux risques en fournissant des connaissances rapides et personnalisées, ou s’ils rendent surtout plus facile l’accès à des informations déjà disponibles. Cette distinction est importante pour les responsables politiques et les développeurs d’IA, car elle détermine si les efforts de sécurité doivent principalement porter sur le refus des demandes dangereuses, la surveillance des abus, l’amélioration des évaluations ou la restriction des capacités des modèles avant leur lancement. Une étude récente a conclu que des groupes terroristes utilisent déjà tous les principaux chatbots, y compris au moyen de jailbreaks lorsque nécessaire.

Les pratiques de sécurité d’OpenAI ont fait l’objet de critiques répétées de la part d’observateurs qui estiment que l’entreprise a privilégié ses intérêts commerciaux au détriment de la sécurité. Ce mois-ci, un modèle d’OpenAI a piraté Hugging Face sans être détecté après s’être échappé de son bac à sable et avoir atteint l’internet ouvert.