Matt Robb wilde een computertoetsenbord verkopen. Als experiment zette hij eind vorige maand een advertentie op Facebook Marketplace en gaf hij Meta's nieuwe AI-agent Muse de leiding over de transactie.

“Ik ging er eigenlijk als proefkonijn in,” zei Robb, een contentcreator uit Toronto die regelmatig consumententechnologie recenseert. Hij had Muse's avatar die op een pluchen speeltje lijkt op Instagram zien verschijnen en wilde uitzoeken of de AI-agent het online afdingen voor hem kon doen.

Muse begon te onderhandelen. Binnen een dag ontving Robb echter een alarmerende update: een koper die hij niet kende stond 's nachts voor zijn deur. Muse had zelfstandig een deal gesloten en Robbs thuisadres gedeeld nadat het met een ophaalafspraken had ingestemd. Toen de koper aankwam, stuurde de agent bovendien een geautomatiseerd bericht “Yep, I'm here!” vanaf Robbs account—zonder zijn medeweten.

“Het gaf niet alleen mijn adres toen de man ernaar vroeg en het accepteerde het bod, maar het was bijna alsof het de man aan het pesten was [met het feit dat ik er zou zijn terwijl ik er niet was],” zei Robb. Hij beschreef het incident ook in socialemediaberichten die breed werden gedeeld. “Dat heeft me echt voor verrassing gezet.”

Robb en de koper legden het uiteind bij, en Meta nam contact op met Robb om te bespreken wat er was gebeurd. Het incident illustreerde niettemin de risico's in de echte wereld die kunnen ontstaan wanneer mensen AI-systemen uitgebreide toegang geven tot persoonlijke informatie. Robbs verhaal werd ook beschreven in een post op Threads.

“Het gebruik van een AI-agent lijkt op het geven van je sleutels en een takenlijst aan iemand,” zei Veronica Rivera, assistent-hoogleraar aan Georgia Tech's School of Cybersecurity and Privacy. “Hoe behulpzaam ze zijn, en daarmee ook hoe riskant, hangt af van welke sleutels je overhandigt.”

AI-agents hebben brede toegang nodig om taken uit te voeren

Veel gebruikers hebben AI-agents omarmd en geprezen om het gemak van gepersonaliseerde assistenten zoals Muse, die alledaagse taken kunnen uitvoeren zoals het regelen van een restaurantreservering, het plannen van een reis of het organiseren van een e-mailinbox. Net als andere AI zijn agents echter afhankelijk van de informatie waartoe ze toegang hebben. Hun vermogen om taken uit te voeren neemt doorgaans toe naarmate ze meer informatie over een gebruiker ontvangen—en mogelijk ook over die persoon's vrienden, familie en collega's.

Die toegang roept privacyzorgen op—en, zoals Robb ondervond, gevolgen die niet op het scherm blijven: één misverstaan toestemming was genoeg om zijn thuisadres in handen van een vreemde te geven.

Het aantal downloads van Meta's Muse-app is sinds de lancering in september sterk gestegen, terwijl de concurrentie op de markt voor AI-agents blijft groeien. OpenAI introduceerde onlangs een eigen groep “altijd actieve” AI-assistenten, genaamd dots, die kunnen worden geïntegreerd met ChatGPT en werkplekplatforms zoals Slack en Microsoft Teams. OpenAI's aankondiging werd behandeld door de Associated Press. Voor consumenten betekent die concurrentie dat agents verschijnen op de platforms die ze al gebruiken, van werkplek-chattools tot online marktplaatsen.

Traditionele generatieve AI-chatbots, waaronder de standaardversie van ChatGPT, reageren doorgaans op specifieke prompts. Op verzoek van een gebruiker kunnen ze essays schrijven, afbeeldingen of muziek genereren en computercode produceren.

Muse en OpenAI's dots zijn ontworpen om verder te gaan door dagelijkse taken namens een gebruiker uit te voeren. AI-agents gebruiken dezelfde grote taalmodellen als chatbots, maar werken in een lus waarmee ze proactieve stappen kunnen nemen, zelfs wanneer de gebruiker ze niet actief in de gaten houdt.

“Een van de dingen die deze AI-agents zo aantrekkelijk maakt, is dat ze ongekend nuttig zijn,” zei Rivera, die ook een door Microsoft gefinancierde Computing Research Association Trustworthy AI Research Fellow is.

Het gemak vereist echter dat gebruikers meer details over hun leven delen.

Zodra een AI-agent de informatie van een gebruiker heeft verken, is het moeilijk om de toegang volledig in te trekken, zei Ebrahim Bagheri, hoogleraar aan de Faculty of Information van de University of Toronto.

“Als je een agent toegang geeft tot je creditcard, heeft de agent nu onmiddellijk toegang tot alle historische transacties… ze zullen onmiddellijk—binnen minder dan seconden—al die gegevens opnemen,” zei Bagheri. Hoewel gebruikers later de toegang kunnen intrekken, zei hij dat er “niets terug te halen” valt van informatie die een agent al heeft gezien. Hoe ontwikkelaars historische gegevens bewaren, kan ook onduidelijk zijn.

Meta en OpenAI hebben privacybeleid gepubliceerd voor hun nieuwe AI-agents, die draaien op eigen toegewijde cloudcomputers. Gebruikers kunnen het delen van geheugen tussen dots en ChatGPT uitschakelen, maar informatie die de agent eerder heeft ontvangen, wordt niet automatisch verwijderd. OpenAI staat gebruikers toe toegang tot persoonlijke informatie te vragen, deze te verwijderen of te corrigeren, hoewel die rechten per locatie kunnen variëren. OpenAI's privacy- en veiligheidsinformatie over dots is beschikbaar in zijn helpcentrum.

Meta's Muse biedt ook opties voor het verwijderen van berichtgeschiedenis en andere informatie. Bij dagelijks gebruik vraagt de agent gebruikers om toegangsrechten. Meta heeft gezegd dat Muse informatie leert over gebruikers en de mensen met wie ze omgaan “op basis van openbare informatie en van wat je hebt gekozen te delen,” waarbij het bedrijf volhoudt dat de informatie voor elke gebruiker veilig blijft. Meta biedt aanvullende informatie over Muse in zijn helpdocumentatie en privacycontroles.

Het bedrijf erkent ook dat Muse “fouten kan maken of onverwachte acties kan ondernemen.”

Meer toegang kan de gevolgen van fouten vergroten

In Robbs geval was de openbaarmaking van zijn adres het gevolg van “altijd toestaan”-rechten die hij had verleend toen hij Muse voor het eerst verbond met zijn Facebook Marketplace-profiel. Zijn ophaaladres was daar al beschikbaar. Robb waarschuwde dat andere gebruikers op vergelijkbare wijze de omvang van de toegang van een agent kunnen misverstaan. Hij zei dat hij aanvankelijk dacht dat Muse om zijn goedkeuring zou vragen voordat het het adres deelde of boden accepteerde.

De agent volgde zijn instructies ook in een andere transactie niet correct op. Voor een ander item dat Robb verkocht, leek Muse te suggereren dat hij een prijs zou accepteren die $100 onder het eerder ingestelde minimum lag. Na benadering door de Associated Press erkende Meta de fout van de agent maar gaf geen verder commentaar. De AP berichtte ook over Robbs ervaring in zijn artikel.

Robb ontkoppelde Muse later grotendeels van zijn apps. In een interview eerder deze maand zei hij dat het veel erder had kunnen aflopen, vooral “als een vreemde bij het huis van een kwetsbaarder persoon was verschen.” Hij zei desalniettemin te verwachten dat de technologie verder wordt verfijnd en zou overwegen Muse weer in te schakelen. Sindsdien test hij een andere AI-agent, Grok Bot van Elon Musk's X, die in augustus in bèta verscheen. Robb plaatste ook over de ervaring op Threads.

Andere technologiebedrijven hebben zich bezorgd getoond over het toenemende gebruik van AI-agents. Eerder deze maand zei Apple nieuwe controles te introduceren voor zijn Mac-besturingssysteem in reactie op agents die bredere toegang kregen tot applicaties zoals Mail en Berichten, evenals browsergeschiedenis, zonder de “volledige kennis en het begrip” van gebruikers.

“Nu AI-agents steeds capabeler en autonomer worden, zullen de risico's die aan dit toegangsniveau verbonden zijn aanzienlijk groeien,” schreef Apple in een update van 2 oktober. De update plaatste makers van besturingssystemen, en niet alleen agentontwikkelaars, in het debat over hoeveel toegang AI-agents zouden moeten hebben.

Apple noemde geen ontwikkelaars of agents bij naam. De update kwam nadat Inc.-columnist Jason Aten had gemeld dat Muse meldingen op zijn Mac in de gaten hield, waaronder Berichten, zonder dat hij de agent die specifieke toegang had verleend. Aten beschreef het incident in Inc..

Meta-woordvoerder Andy Stone heeft gezegd dat dergelijke integratie “volledig opt-in” is. In een socialemediapost vorige maand schreef Stone dat gebruikers zowel Apple's beveiligingsfunctie “Full Disk Access” als een Berichten-connector via Muse moesten inschakelen. Aten zei dat hij de agent die rechten niet had verleend. Stones verklaring is beschikbaar op X.

Mensen die geen AI-agent downloaden, zijn niet noodzakelijk beschermd tegen de privacyeffecten ervan. Ze kunnen nog steeds communiceren met mensen die er wel een gebruiken. Naast de mogelijkheid dat een AI-systeem berichten namens een gebruiker kan versturen, waarschuwen experts dat agents ook informatie van andere mensen kunnen blootstellen.

“Wanneer je agent je inbox of je berichten leest, leest het ook wat je vrienden en familie je hebben gestuurd, zelfs als zij daar nooit expliciet mee hebben ingestemd,” zei Rivera.

Verschillende kwesties zijn nog open: Apple's aangekondigde Mac-controles moeten nog bij gebruikers aankomen, Meta heeft de Marketplace-fout erkend zonder verder commentaar, en Muse, OpenAI's dots en Grok Bot strijden allemaal om mainstream adoptie.

Dit verhaal verscheen oorspronkelijk op Fortune.com.