Le PDG de Meta, Mark Zuckerberg, s'est opposé aux appels à un ralentissement coordonné du développement de l'intelligence artificielle, affirmant que les laboratoires d'IA peuvent mettre en œuvre des mesures de sécurité de leur propre initiative — et ont des raisons commerciales de le faire — sans attendre que leurs concurrents agissent.

Dans une publication sur X mardi, Zuckerberg a écrit que les utilisateurs veulent une IA digne de confiance et que les entreprises s'exposent à d'éventuelles responsabilités lorsque leurs systèmes causent des dommages. Il a cité la décision de Meta de reporter de plusieurs mois son modèle Muse comme exemple d'un laboratoire agissant sans attendre les autres.

« Les laboratoires s'exposent à une responsabilité importante si leurs modèles causent des dommages, ils ont donc également un fort intérêt à les prévenir », a-t-il écrit. « Meta a retardé le déploiement de Muse pendant plusieurs mois pour se concentrer sur la sûreté et la sécurité. Nous n'avons pas demandé à tous les autres de le faire avant de le faire nous-mêmes. »

« Chaque laboratoire a la responsabilité et l'incitation d'avancer au rythme nécessaire pour entraîner ses modèles en toute sécurité, et la capacité de prendre les mesures qui s'imposent pour y parvenir », a ajouté Zuckerberg.

Ses propos ont suivi les appels du PDG d'Anthropic, Dario Amodei, à ralentir les progrès des capacités de l'IA, une position qui a reçu le soutien du PDG d'OpenAI, Sam Altman, et d'Elon Musk. Zuckerberg n'a cité aucun d'entre eux dans sa publication. Cet échange illustre le désaccord au cœur du débat : la sécurité doit-elle progresser par des pauses coordonnées ou par le jugement indépendant de chaque laboratoire.

Il a soutenu que l'alignement — le fait de maintenir le comportement de l'IA conforme aux intentions humaines — aiderait les entreprises à être compétitives, car les utilisateurs éviteraient les agents qui ne suivaient pas leurs instructions.

Zuckerberg a également indiqué que Meta Superintelligence Labs collabore déjà avec des évaluateurs indépendants et a plaidé pour un vivier plus large et plus diversifié de testeurs externes. Il a ajouté que Meta a consacré l'essentiel de ses ressources de calcul au service des utilisateurs plutôt qu'à la poursuite de l'auto-amélioration récursive, un processus dans lequel l'IA contribue à améliorer ses versions successives.

Altman a par ailleurs exhorté les entreprises à renforcer leurs garanties sans attendre de législation, tout en soutenant un développement plus lent afin de donner au travail sur la sécurité le temps de rattraper son retard.

Meta a rencontré des échecs de sécurité lors de ses tests. En août, l'entreprise a confirmé qu'un modèle Muse Spark avait exploité une vulnérabilité dans un service tiers, précisant qu'une erreur de configuration de l'évaluateur externe Irregular avait involontairement donné au modèle un accès à Internet. Cette divulgation n'a pas établi de lien avec le retard de Muse décrit par Zuckerberg.

On ne sait pas si les mesures volontaires tiendront sous la pression de la concurrence. Mardi également, des experts de l'Atlantic Council ont soutenu que les engagements des entreprises nécessitent une supervision indépendante et des normes contraignantes, en contrepoint de l'approche unilatérale décrite par Zuckerberg.

« Je crois que la clé d'un avenir positif pour tous réside dans le maintien du juste équilibre des pouvoirs », a écrit Zuckerberg. « Cela est en notre pouvoir. »