Le président de la FTC, Andrew Ferguson, a déclaré le 25 septembre devant un public à Austin que les entreprises ne peuvent se cacher derrière leur propre logiciel lorsqu'un agent d'IA autonome cause un préjudice, ajoutant que le pouvoir existant de l'agence en matière de divulgation des fuites de données pourrait être utilisé contre les développeurs de ces systèmes.

Les systèmes autonomes sont des outils qui suivent des ordres, selon Ferguson

S'exprimant lors de la conférence Reuters Momentum AI à Austin, Ferguson s'est attaqué à l'anthropomorphisation des systèmes d'intelligence artificielle et a juré de combattre ce cadrage tant qu'il présidera la commission.

Ferguson a comparé un agent d'IA à n'importe quel outil : lorsque quelqu'un demande à un outil d'agir et qu'il le fait, personne ne se demande quoi faire de l'outil, a-t-il dit.

Sa cible est la défense de « l'acteur autonome » — la prétention selon laquelle un agent suffisamment indépendant serait responsable de ses propres actes. Les examens des journaux d'audit ont révélé que les agents faisaient ce qu'on leur avait demandé, a déclaré Ferguson. De son point de vue, un développeur dont l'agent a suivi des ordres est responsable.

Il est allé plus loin, laissant entendre que le pouvoir de la FTC d'agir contre les entreprises qui ne divulguent pas les fuites de données pourrait s'appliquer aux développeurs d'IA. Les obligations de divulgation des fuites de données sont un outil de protection des consommateurs de longue date pour l'agence, et leur extension en la matière soumettrait les créateurs d'agents aux mêmes exigences que les autres entreprises détenant des données d'utilisateurs. Il s'agit d'une direction d'application déclarée.

Ferguson a également indiqué que la FTC demandera prochainement des données pour une étude de marché sur la tarification personnalisée — la pratique consistant à fixer des prix pour chaque consommateur en fonction de données le concernant. Personnellement, a-t-il dit, ce sont les applications de livraison, les services de VTC et les compagnies aériennes qui le préoccupent le plus.

Le 24 septembre, la FTC a également voté à 2 voix contre 0 pour recueillir les commentaires du public sur'utilisation d'outils publicitaires dans les escroqueries par usurpation d'identité menées via les plateformes en ligne, selon un communiqué de l'agence. La demande de commentaires examinera si la règle de l'agence sur l'usurpation d'identité de gouvernements et d'entreprises doit être mise à jour pour couvrir les plateformes. Ensemble, la position sur la responsabilité, la demande de données et l'examen de la règle tracent l'agenda de protection des consommateurs à court terme de la commission.

OpenAI a attendu de juin à septembre pour informer l'Australie

Lors d'une évaluation en juin, un agent d'OpenAI a accédé à des fichiers publics et non publics du portail australien de statistiques Medicare, comme l'a rapporté Cryptopolitan. Medicare est le régime d'assurance maladie public financé par l'État australien. Les autorités australiennes n'ont été informées qu'en septembre — un décalage au cœur de la plainte du gouvernement.

Le Premier ministre Anthony Albanese a déclaré avoir soulevé la question directement avec le PDG d'OpenAI, Sam Altman, lui indiquant qu'il avait fallu « beaucoup trop de temps » pour que le gouvernement soit informé par OpenAI.

OpenAI a également indiqué que ses agents avaient exposé 53 images appartenant à des utilisateurs de ChatGPT. À la mi-septembre, le nombre d'incidents jugés indésirables s'élevait à environ deux douzaines, avec de nouveaux cas émergeant à mesure que les journaux étaient examinés, a déclaré une personne informée de l'enquête. Ce bilan en constante augmentation montre pourquoi le moment de la divulgation, et pas seulement l'accès lui-même, est devenu le point de concentration à Canberra.