Anthropic a présenté aux législateurs américains un projet de législation fédérale qui restreindrait fortement les cas où les autorités peuvent bloquer les modèles d'intelligence artificielle avancés, dans un contexte de préoccupations croissantes concernant la sécurité de l'IA tandis que le Congrès examine de nouvelles règles de supervision. Ce projet intervient alors que plusieurs initiatives du Congrès sur la supervision de l'IA sont déjà en cours, offrant ainsi aux législateurs un point de référence rédigé par une entreprise dans ce débat.

Selon les informations disponibles, la proposition confidentielle fixe un seuil de dommages d'un milliard de dollars, ou un risque impliquant plus de 50 victimes graves, comme conditions d'une intervention gouvernementale. Anthropic a confirmé que le projet reflète son Advanced AI Framework, publié en juin, qui préconise des tests indépendants et une supervision gouvernementale.

Selon le projet, des évaluateurs indépendants évalueraient périodiquement les modèles d'IA frontières et devraient signaler aux autorités fédérales, dans un délai de 72 heures, toute menace pour la sécurité remplissant les critères. La proposition préempterait également certaines réglementations étatiques sur l'IA tout en imposant aux développeurs des rapports publics de transparence et des protections pour les lanceurs d'alerte.

Le projet d'Anthropic limite l'intervention gouvernementale

Le projet permettrait aux autorités d'arrêter un modèle d'IA avancé uniquement lorsqu'il présente un danger prévisible et imminent. Le risque doit impliquer des armes biologiques, des cyberattaques ou un système d'IA échappant au contrôle de son développeur.

Selon la proposition, une intervention fédérale nécessiterait des dommages potentiels supérieurs à un milliard de dollars ou des dommages graves pour plus de 50 personnes. Le département du Commerce évaluerait d'abord le danger avant de demander à un juge fédéral de suspendre la mise à disposition ou l'utilisation du modèle. Seul le tribunal fédéral du district de Columbia pourrait autoriser une telle suspension dans le cadre proposé, et les autres agences fédérales n'auraient généralement pas, en vertu du projet de loi, le pouvoir d'arrêter de manière indépendante le développement, le déploiement ou l'utilisation interne d'un modèle. Cette conception canaliserait l'intervention par un seul département et un seul tribunal — un parcours plus étroit que les pouvoirs de révision gouvernementale renforcés que certains sénateurs ont préconisés.

La législation exigerait que les développeurs d'IA frontières se soumettent à des évaluations périodiques par des évaluateurs indépendants enregistrés auprès du département du Commerce. Les entreprises pourraient rémunérer les évaluateurs pour leurs services, mais leur rémunération ne pourrait pas dépendre du résultat de ces évaluations.

Les évaluateurs identifiant une menace imminente remplissant les critères disposeraient de 72 heures après avoir achevé leur évaluation pour en informer le département du Commerce. Les développeurs seraient soumis à des exigences portant sur les cadres de sécurité, le signalement d'incidents, la transparence publique et les protections lanceurs d'alerte.

Cette proposition fait suite aux précédents dispositifs indépendants de tests de sécurité de l'IA mis en place par Anthropic. En septembre, l'entreprise avait annoncé un partenariat d'évaluation avec Accenture pour évaluer les modèles avancés et renforcer les garanties.

La proposition d'Anthropic pourrait préempter certaines lois étatiques sur la sécurité de l'IA

Le projet préempterait certaines exigences étatiques relatives à la divulgation des risques, aux évaluations indépendantes et aux signalements d'incidents graves de sécurité de l'IA. Cette disposition répond aux exigences de conformité divergentes qui émergent dans les différents États américains, en particulier en Californie et à New York.

Le remplacement des exigences étatiques par des règles fédérales a divisé les législateurs sur le niveau approprié de supervision de l'IA. Certains démocrates s'opposent aux propositions susceptibles d'affaiblir les protections étatiques existantes, tandis que les groupes industriels favorisent des exigences nationales uniformes. L'issue de ce débat aiderait à déterminer si les développeurs de modèles frontières opèrent sous une norme fédérale unique ou dans un paysage de conformité variant d'un État à l'autre.

Le débat fait suite à de précédents tests de sécurité impliquant des agents d'IA avancés. Ces tests ont enregistré des cas où des systèmes d'IA ont effectué des actions non autorisées, soulevant des questions sur les contrôles des développeurs et la suffisance des évaluations indépendantes.

Anthropic avait précédemment documenté des tentatives d'utilisation malveillante de ses modèles à des fins de recherche biologique et de cyberattaques. Son rapport de septembre sur les usages malveillants de l'IA décrivait les demandes bloquées et les garanties supplémentaires introduites pour faire face à ces menaces.

Au Congrès, les représentantes Lori Trahan et le représentant Jay Obernolte ont défendu le FRONTIER Act, qui traite des déploiements dangereux de l'IA. Les sénateurs John Thune, Amy Klobuchar et Ted Cruz ont séparément discuté de législations couvrant les risques catastrophiques et l'intervention fédérale.

La sénatrice Maria Cantwell et d'autres législateurs ont plaidé pour des pouvoirs de révision gouvernementale plus étendus que ceux prévus par certaines propositions concurrentes. Parallèlement, le sénateur Bernie Sanders et le représentant Greg Casar ont soutenu des restrictions plus larges sur le développement de systèmes d'IA avancés.

Anthropic n'a pas publiquement soutenu un projet de loi du Congrès en particulier, et sa proposition n'est pas devenue loi. Les législateurs n'ont pas encore annoncé s'ils présenteront le projet de l'entreprise comme législation formelle.