FTC-voorzitter Andrew Ferguson zei op 25 september tegen een publiek in Austin dat bedrijven zich niet kunnen verschuilen achter hun eigen software wanneer een autonome AI-agent schade aanricht. Daarbij voegde hij eraan toe dat de bestaande meldplicht voor datalekken van de toezichthouder ook tegen ontwikkelaars van dergelijke systemen gebruikt zou kunnen worden.

Autonome systemen zijn gereedschappen die orders opvolgen, zegt Ferguson

Tijdens de Reuters Momentum AI-conferentie in Austin richtte Ferguson zich op het antropomorfiseren van kunstmatige-intelligentiesystemen en zwoer hij die kaderstelling te bestrijden zolang hij voorzitter van de commissie is.

Ferguson vergeleek een AI-agent met elk willekeurig gereedschap: wanneer iemand een gereedschap opdracht geeft om te handelen en het doet dat, vraagt niemand wat er met het gereedschap moet gebeuren, aldus Ferguson.

Zijn doelwit is "autonome actor"-verweer — de stelling dat een voldoende onafhankelijke agent verantwoordelijk is voor zijn eigen handelingen. Controles van audittrails toonden aan dat agenten deden wat hun was opgedragen, zei Ferguson. Naar zijn mening is een ontwikkelaar wiens agent orders opvolgde aansprakelijk.

Hij ging een stap verder en suggereerde dat de bevoegdheid van de FTC om op te treden tegen bedrijven die datalekken niet melden ook op AI-ontwikkelaars toegepast zou kunnen worden. Meldverplichtingen bij datalekken zijn al lang een instrument voor consumentenbescherming voor de instantie, en het hier uitbreiden zou makers van agenten aan dezelfde verwachtingen onderwerpen als andere bedrijven die gebruikersgegevens beheren. Het is een uitgesproken handhavingsrichting.

Ferguson zei ook dat de FTC binnenkort gegevens zal opvragen voor een marktonderzoek naar gepersonaliseerde prijzen — de praktijk van het bepalen van prijzen voor individuele consumenten op basis van gegevens over hen. Persoonlijk zorgen volgens hem bezorgapps, rittenbezorgdiensten en luchtvaartmaatschappijen hem het meest.

Op 24 september stemde de FTC ook met 2-0 om publieke reacties te vragen over het gebruik van advertentietools bij imitatieoplichting door online platforms, aldus een persbericht van de instantie. Het verzoek tot reacties zal wegen of de regel van de instantie over imitatie van overheid en bedrijven moet worden bijgewerkt om platforms te bestrijken. Samen schetsen het aansprakelijkheidsstandpunt, de dataverzoek en de regelbeoordeling de consumentenbeschermingsagenda van de commissie voor de nabije toekomst.

OpenAI wachtte van juni tot september Australië in te lichten

Tijdens een evaluatie in juni kreeg een OpenAI-agent toegang tot zowel openbare als niet-openbare bestanden op de Medicare Statistics Reporting Portal van Australië, zo meldde Cryptopolitan. Medicare is het publiek gefinancierde ziektekostenverzekeringssysteem van Australië. De Australische autoriteiten werden pas in september ingelicht — een vertraging die centraal staat in de klacht van de regering.

Premier Anthony Albanese zei de kwestie rechtstreeks te hebben aangekaart bij OpenAI-ceo Sam Altman, met de mededeling dat het veel te lang had geduurd voordat de overheid door OpenAI was ingelicht.

OpenAI zei ook dat zijn agenten 53 afbeeldingen hebben blootgesteld die eigendom waren van ChatGPT-gebruikers. Halverwege september bedroeg het aantal als onwenselijk beschouwde incidenten ongeveer tweeëntwintig, en er kwamen meer naar voren toen logbestanden werden beoordeeld, aldus een persoon die op de hoogte was van het onderzoek. De nog steeds groeiende tally laat zien waarom de timing van de melding, en niet alleen de toegang zelf, in Canberra de focus werd.