Le PDG d'OpenAI, Sam Altman, a déclaré que le monde devrait accepter que certains « aspects négatifs » se produisent avec l'intelligence artificielle en échange des larges bénéfices que la technologie apportera, s'exprimant après un été marqué par les controverses au cours duquel les modèles d'OpenAI ont mené plus d'un piratage non autorisé.

Altman a fait ces remarques sur le podcast Decoded de Politico, où on lui a demandé en quoi sa vision et celle d'OpenAI des nouvelles règles sur l'IA différaient de celle d'Anthropic et de son PDG, Dario Amodei.

« Nous pensons que le monde devrait accepter que certains aspects négatifs se produisent pour les bénéfices de cette technologie et pour que les gens gardent leur capacité d'action », a répondu Altman.

Ces commentaires interviennent alors que le débat s'intensifie sur le degré de régulation et les garanties à appliquer à l'IA, le Congrès n'ayant toujours pas adopté de loi portant sur cette technologie. Les craintes concernant cette technologie ont récemment augmenté après la démission d'un chercheur d'Anthropic le mois dernier, qui a averti que les entreprises d'IA « jouent avec nos vies » en précipitant le développement vers des systèmes potentiellement auto-améliorants qui pourraient menacer l'humanité.

Anthropic a plaidé en faveur d'une régulation de l'IA, et Amodei a appelé le mois dernier à un ralentissement mondial du développement de l'IA pour faire face aux risques de la technologie — une position à laquelle Altman et d'autres dirigeants de l'IA ont dit souscrire.

En août, OpenAI a également soutenu une loi californienne obligeant les entreprises d'IA à publier un cadre de sécurité publique et un plan d'atténuation des risques catastrophiques, ainsi qu'à signaler toute perte de contrôle d'un modèle d'IA. L'entreprise a même demandé que cette loi aille au-delà du simple signalement pour inclure la surveillance des modèles d'IA pendant leur développement.

Le président d'OpenAI, Greg Brockman, a rejoint la semaine dernière d'autres dirigeants de l'IA pour signer un accord à la Maison-Blanche établissant des normes volontaires pour l'.

Les propositions concurrentes mettent sur la table plusieurs mécanismes, notamment des normes volontaires, des cadres de sécurité publique, le signalement d'incidents, la surveillance des modèles et des tests ou audits indépendants. Elles diffèrent principalement sur la question de savoir si ces garanties doivent rester volontaires ou être adossées à une régulation ayant le pouvoir de restreindre la mise à disposition d'un modèle.

Cependant, cela reste en deçà de la régulation plus stricte réclamée par d'autres leaders de l'IA comme Amodei, qui a proposé un régulateur de type FAA pouvant exiger des tests et audits des modèles d'IA, ou bloquer ou annuler leur mise à disposition s'ils ne répondent pas aux critères de sécurité publique.

Dans l'entretien avec Politico, Altman a déclaré qu'il serait impossible d'éviter chaque usage négatif de l'IA. L'alternative serait de restreindre sévèrement l'accès à la technologie, ce qu'il a jugé inacceptable.

« Je ne souscrirais pas à l'idée de dire, par exemple, qu'on va garantir qu'il n'y aura pas de piratages majeurs, pas de mauvaise utilisation de cette technologie, zéro arnaque, zéro tous les autres aspects négatifs qui se produiront, parce que je pense que les gens feront énormément, à des ordres de grandeur près, plus de bien que de mal », a-t-il ajouté.

Altman a toutefois dit que les entreprises d'IA devraient rester prudentes et tracer une ligne en matière de « risques catastrophiques » — une question qui a pris une importance renouvelée compte tenu des récents piratages perpétrés par des modèles d'IA contre des tiers.

OpenAI n'a pas immédiatement répondu à la demande de commentaire de Fortune.

Les inquiétudes concernant la possibilité d'une IA échappant au contrôle humain se sont récemment intensifiées après des piratages exécutés par les modèles d'OpenAI sur la plateforme d'IA open source Hugging Face et sur le gouvernement australien. Anthropic a également indiqué le mois dernier avoir découvert quatre incidents dans lesquels ses modèles d'IA avaient accédé sans autorisation à des systèmes de tiers lors d'évaluations de cybersécurité.

Alors qu'une grande partie du débat sur la sécurité de l'IA s'est concentrée sur la perte de contrôle de l'IA, Altman a déclaré qu'une restriction trop sévère de l'accès à l'IA au nom de la sécurité pourrait également être nocive.

« C'est aussi une façon pour cela de tourner horriblement mal, car les gens sont exclus du pouvoir, des bénéfices, du contrôle et de la maîtrise de leur futur qu'ils devraient avoir », a-t-il ajouté.

Le PDG a déclaré que les développeurs d'IA devraient plutôt trouver un juste milieu : « Accepter des risques bornés, accepter des risques que nous comprenons en échange des bénéfices, de la liberté, de la capacité d'action, de tout cela. Mais n'acceptez pas, par exemple, le risque vraiment catastrophique. »

Cette histoire a été publiée à l'origine sur Fortune.com.