Le Cato Institute, think tank libertarien, avertit qu'une pause du développement de l'intelligence artificielle imposée par le gouvernement pourrait protéger les entreprises dominantes de la concurrence et retarder des technologies bénéfiques, une mise en garde formulée alors que des législateurs et des dirigeants du secteur de l'IA poussent à de nouvelles restrictions. La manière dont Washington choisira finalement de gouverner cette technologie pourrait déterminer non seulement comment la sécurité sera supervisée, mais aussi quelles entreprises seront en mesure de créer et de déployer des systèmes d'IA.

Dans un article de blog publié lundi, Jennifer Huddleston, spécialiste des politiques technologiques au sein de ce think tank, a soutenu que les entreprises peuvent répondre à des dangers spécifiques par des garanties volontaires et des normes partagées, sans interrompre le développement dans l'ensemble du secteur.

« Une pause imposée par le gouvernement soulèverait plusieurs préoccupations et ne parviendrait probablement pas à tenir ses promesses d'amélioration de la sécurité », a-t-elle écrit, ajoutant que les règles gouvernementales sont lentes à rédiger et plus lentes encore à évoluer. « Un cadre réglementaire conçu pour les modèles d'aujourd'hui pourrait activement freiner ceux de demain, en empêchant des réponses potentiellement meilleures ou plus sûres. »

Huddleston reconnaît les risques de l'IA, mais met en garde : des règles façonnées autour des développeurs de premier plan pourraient les aider à consolider leur pouvoir et à limiter la concurrence — une forme de capture du marché qui rendrait la compétition plus difficile pour les petites entreprises. Elle soutient également qu'une pause du développement américain pourrait affaiblir les défenses de cybersécurité du pays pendant que les rivaux étrangers continuent de progresser.

Son commentaire fait suite à une proposition du sénateur indépendant du Vermont Bernie Sanders et du représentant démocrate du Texas Greg Casar visant à suspendre le développement de l'IA avancée jusqu'à l'établissement de normes fédérales de sécurité à interdire définitivement la superintelligence artificielle — un système hypothétique capable d'égaler ou de dépasser les performances humaines dans la plupart des tâches cognitives. Des appels à un ralentissement délibéré se sont déjà fait entendre : en mars 2023, une lettre ouverte organisée par le Future of Life Institute et signée par des milliers de personnes, dont Elon Musk, exhortait les laboratoires d'IA à suspendre l'entraînement de systèmes plus puissants que GPT-4 pendant au moins six mois. Le PDG d'OpenAI, Sam Altman, a quant à lui soutenu un développement plus lent et appelé les entreprises à renforcer leurs garanties sans attendre les règles fédérales dont il soutient l'adoption.

« Beaucoup de ces appels s'accompagnent de scénarios catastrophes digne de la science-fiction sur le pire qui pourrait arriver », a écrit Huddleston. « Pourtant, une réglementation précipitée par la peur pourrait avoir des conséquences négatives plus durables que le risque qu'elle prétend traiter. »

Jack Dorsey, président et cofondateur de Block et cofondateur de Twitter, a exprimé des inquiétudes similaires sur la concurrence dans une publication sur X lundi.

« Les entreprises qui mènent l'intelligence machine méritent d'être entendues. Elles ont une expertise et des intérêts commerciaux à protéger », a écrit Dorsey. « Des règles construites autour de leurs ressources pourraient faire d'elles les seules à pouvoir participer. Une préoccupation sincère pour la sécurité peut néanmoins créer une barrière à l'entrée. »

Dorsey a déclaré privilégier des versions ouvertes que les chercheurs peuvent inspecter, modifier et tester, avec des évaluations et des limites connues publiées afin que des acteurs extérieurs puissent contester les affirmations de sécurité des développeurs.

« Je soutiens l'examen minutieux. Je m'oppose aux limites à l'échelle de l'industrie négociées par les leaders actuels, car elles pourraient exclure les personnes susceptibles de révéler des défaillances ou de créer des alternatives », a-t-il écrit. « Préserver l'avantage commercial d'une entreprise n'est pas un objectif de sécurité. »

Dorsey a également indiqué soutenir des tests indépendants et une application des règles soumise à redevabilité publique, y compris le retrait de modèles lorsque des preuves montrent que leur publication augmenterait matériellement des risques catastrophiques que des mesures plus ciblées ne peuvent pas suffisamment traiter.

« Le calcul peut déclencher un examen minutieux sans plafonner le développement. L'examen n'est pas une permission d'un régulateur ou d'un concurrent », a-t-il déclaré. « Je ne veux pas d'exigences d'approbation générales ni de périodes d'attente. Tout retard de publication imposé au nom de la sécurité doit être justifié par l'exception relative aux risques catastrophiques. »

Le débat sur la gouvernance de l'IA reste ouvert. Une analyse récente de l'Atlantic Council soutient que la pression concurrentielle exige des normes de sécurité de l'IA applicables, tandis que la méfiance entre les États-Unis et la Chine complique les accords internationaux. La coopération entre développeurs soulève aussi des préoccupations antitrust OpenAI a demandé aux législateurs si des développeurs rivaux pouvaient légalement convenir de ralentir le développement. Que des normes fédérales de sécurité soient rédigées ou non, et la manière dont les régulateurs traiteront au final la coordination entre développeurs, contribueront à façonner la phase suivante du débat.