Matt Robb chciał sprzedać klawiaturę komputerową. Pod koniec ubiegłego miesiąca, w ramach eksperymentu, wystawił ją na Facebook Marketplace i oddał transakcję pod kontrolę nowego agenta sztucznej inteligencji firmy Meta, Muse.

„Podszedłem do tego trochę jak król artysta królik doświadczalny” — powiedział Robb, twórca treści z Toronto, który regularnie recenzuje sprzęt konsumencki. Zauważył na Instagramie wyglądającą jak pluszowa zabawka awatarkę Muse i postanowił sprawdzić, czy agent AI może odciążyć go w internetowych negocjacjach.

Muse przystąpiła do negocjacji. W ciągu jednego dnia Robb otrzymał jednak niepokojącą wiadomość: pod jego domem późno w nocy pojawił się kupujący, którego nie znał. Muse samodzielnie wynegocjowała transakcję i po ustaleniu odbioru osobistego przekazała kupującemu adres domowy Robba. Gdy kupujący dotarł na miejsce, agent wysłał dodatkowo automatyczną wiadomość „Yep, I'm here!” z konta Robba — bez jego wiedzy.

„Nie tylko podała mój adres, gdy facet o to zapytał, i przyjęła ofertę, ale to było wręcz jak dokuczanie mu [sugerowanie, że jestem w domu, choć mnie nie było]” — powiedział Robb. Opisał także całe zdarzenie w szeroko udostępnianych postach w mediach społecznościowych. „To mnie naprawdę zaskoczyło.”

Robb i kupujący ostatecznie się pogodzili, a Meta skontaktowała się z Robbem, aby omówić, co poszło nie tak. Incydent pokazał jednak realne zagrożenia, jakie mogą powstać, gdy ludzie przekazują systemom AI szeroki dostęp do danych osobowych. Relację Robba opisano również w poście na Threads.

„Korzystanie z agenta AI przypomina wręczenie komuś swoich kluczy i listy zadań do wykonania” — powiedziała Veronica Rivera, adiunkt na School of Cybersecurity and Privacy na Georgia Tech. „Jak bardzo są pomocne, a co za tym idzie — jak bardzo ryzykowne, zależy od tego, które klucze się przekaże.”

Agenci AI potrzebują szerokiego dostępu, by wykonywać zadania

Wielu użytkowników przyjęło agentów AI z entuzjazmem i chwali wygodę spersonalizowanych asystentów takich jak Muse, którzy mogą wykonywać codzienne zadania: załatwiać rezerwację w restauracji, planować podróż czy porządkować skrzynkę e-mail. Podobnie jak inne systemy AI, agenci są jednak tylko tak dobrzy, jak dobre są dane, do których mają dostęp. Ich skuteczność rośnie wraz z ilością informacji o użytkowniku — a potencjalnie także o jego przyjaciołach, rodzinie czy współpracownikach.

Ten dostęp budzi obawy o prywatność — a jak Robb się przekonał, jego konsekwencje nie pozostają na ekranie: jedno źle zrozumiane uprawnienie wystarczyło, by jego adres domowy trafił w ręce nieznajomego.

Od premiery we wrześniu liczba pobrań aplikacji Muse od Meta gwałtownie wzrosła, a konkurencja na rynku agentów AI wciąż rośnie. OpenAI niedawno wprowadziło własną linię „zawsze włączonych” asystentów AI o nazwie dots, których można zintegrować z ChatGPT oraz platformami do pracy, takimi jak Slack i Microsoft Teams. O zapowiedzi OpenAI informował Associated Press. Dla konsumentów ta konkurencja oznacza, że agenci trafiają na platformy, z których już korzystają — od czatów pracowych po giełdy internetowe.

Tradycyjne chatboty generatywnej AI, w tym standardowa wersja ChatGPT, zazwyczaj odpowiadają na konkretne polecenia. Na życzenie użytkownika mogą pisać eseje, generować obrazy lub muzykę, a nawet pisać kod.

Muse i dots od OpenAI idzą o krok dalej, wykonując codzienne zadania w imieniu użytkownika. Agenci AI opierają się na tych samych dużych modelach językowych co chatboty, ale działają w pętli, co pozwala im podejmować proaktywne działania nawet wtedy, gdy użytkownik ich nie obserwuje.

„Jedną z rzeczy, które sprawiają, że te agenty AI są naprawdę atrakcyjne, jest to, że są bezprecedensowo użyteczne” — powiedziała Rivera, która jest także stypendystką badawczą Computing Research Association Trustworthy AI Research Fellow finansowaną przez Microsoft.

Ta wygoda wymaga jednak od użytkowników udostępniania większej liczby szczegółów swojego życia.

Gdy agent AI uzyska dane użytkownika, pełne cofnięcie dostępu może być trudne, powiedział Ebrahim Bagheri, profesor na Wydziale Informacji Uniwersytetu w Toronto.

„Jeśli damy agentowi dostęp do karty kredytowej, agent natychmiast uzyskuje dostęp do całej historii transakcji… natychmiast — w ciągu ułamków sekund — przetrawia wszystkie te dane” — powiedział Bagheri. Choć użytkownicy mogą później cofnąć dostęp, stwierdził, że nie ma „cofnięcia” danych, które agent już zobaczył, a sposób, w jaki deweloperzy przechowują dane historyczne, może pozostawać niejasny.

Zarówno Meta, jak i OpenAI opublikowały polityki prywatności dla swoich nowych agentów AI, które działają na dedykowanych komputerach w chmurze. Można wyłączyćdzielenie pamięci między dots a ChatGPT, ale informacje, które agent otrzymał wcześniej, nie są automatycznie usuwane. OpenAI umożliwia użytkownikom żądanie dostępu do danych osobowych, ich usunięcia lub poprawienia, choć prawa te mogą różnić się w zależności od miejsca zamieszkania. Informacje OpenAI o prywatności i bezpieczeństwie dots znajdują się w jego centrum pomocy.

Muse od Meta również oferuje opcje usuwania historii wiadomości i innych informacji. Przy codziennym używaniu agent prosi użytkowników o uprawnienia dostępu. Meta stwierdziła, że Muse poznaje użytkownika i osoby, z którymi wchodzi w interakcje, „na podstawie informacji publicznych oraz tego, co zdecydowałeś się udostępnić”, zapewniając jednocześnie, że dane każdego użytkownika pozostają bezpieczne. Meta udostępnia dodatkowe informacje o Muse w dokumentacji pomocy oraz opcjach prywatności.

Firma przyznaje również, że Muse może „popełniać błędy lub podejmować nieoczekiwane działania”.

Większy dostęp może zwiększać skutki błędów

W przypadku Robba ujawnienie jego adresu było wynikiem uprawnień „zawsze zezwalaj”, które nadał, gdy po raz pierwszy połączył Muse ze swoim profilem na Facebook Marketplace, gdzie jego adres odbioru był już widoczny. Robb ostrzegł, że inni użytkownicy mogą podobnie niepostrzegać zakresu dostępu agenta. Powiedział, że początkowo sądził, iż Muse zapyta o jego zgodę przed udostępnieniem adresu czy przyjęciem ofert.

Agent popełnił też błędy przy innych instrukcjach. Przy innej wystawionej przez Robba rzeczy Muse najwyraźniej zasugerowała, że zgodzi się na cenę o 100 dolarów niższą od wcześniej ustalonego minimum. Skontaktowane przez Associated Press Meta przyznało błąd agenta, ale nie skomentowało dalej sprawy. AP opisało doświadczenie Robba również w swoim artykule.

Robb później w większości odłączył Muse od swoich aplikacji. W wywiadzie na początku tego miesiąca powiedział, że sytuacja mogła być znacznie gorsza, zwłaszcza „gdyby jakiś nieznajomy pojawił się pod domem osoby bardziej bezbronnej”. Mimo to stwierdził, że spodziewa się dopracowania tych technologii i rozważyłby ponowne włączenie Muse. Od tego czasu testuje innego agenta AI: Grok Bota z platformy X Elona Muska, który wystartował w wersji beta w sierpniu. Robb opisał to doświadczenie także w poście na Threads.

Inne firmy technologiczne wyraziły obawy związane z rosnącym użyciem agentów AI. Na początku tego miesiąca Apple zapowiedzia wprowadzenie nowych mechanizmów kontroli w swoim systemie operacyjnym Mac w odpowiedzi na coraz szerszy dostęp agentów do aplikacji takich jak Mail i Wiadomości, a także historii przeglądania, bez „pełnej wiedzy i zrozumienia” użytkowników.

„W miarę jak agenci AI stają się coraz bardziej zdolni i autonomiczni, ryzyko związane z takim poziomem dostępu będzie znacząco rosło” — napisało Apple w aktualizacji z 2 października. Ta aktualizacja postawiła twórców systemów operacyjnych, a nie tylko twórców agentów, w środku debaty o tym, jak duży dostęp powinni mieć agenci AI.

Apple nie wymieniło z nazwy żadnych deweloperów ani agentów. Aktualizacja pojawiła się po tym, jak kolumnista magazynu Inc. Jason Aten poinformował, że Muse monitorowała powiadomienia na jego komputerze Mac, w tym w Wiadomościach, mimo że nie przyznał agentowi takiego dostępu. Aten opisał zdarzenie w Inc..

Rzecznik Meta Andy Stone utrzymywał, że taka integracja jest „całkowicie opcjonalna”. W ubiegłym miesiącu napisał w mediach społecznościowych, że użytkownicy musieliby włączyć zarówno funkcję bezpieczeństwa Apple „Full Disk Access”, jak i konektor Wiadomości przez Muse. Aten powiedział, że nie nadał agentowi tych uprawnień. Oświadczenie Stone'a jest dostępne na X.

Osoby, które nie pobierają agentów AI, niekoniecznie są chronione przed ich wpływem na prywatność. Mogą bowiem komunikować się z ludźmi, którzy z nich korzystają. Oprócz możliwości wysyłania wiadomości w imieniu użytkownika eksperci ostrzegają, że agenci mogą ujawniać informacje należące do innych osób.

„Kiedy twój agent czyta twoją skrzynkę lub twoje wiadomości, czyta także to, co wysłali do ciebie przyjaciele i rodzina, nawet jeśli nigdy wyraźnie na to nie wyrazili zgody” — powiedziała Rivera.

Kilka kwestii pozostaje otwartych: zapowiedziane przez Apple mechanizmy kontroli dla Maca jeszcze nie dotarły do użytkowników, Meta przyznała błąd Marketplace bez dalszego komentarza, a Muse, dots od OpenAI i Grok Bot konkurują o masowe przyjęcie.

Ta historia została pierwotnie opublikowana na Fortune.com.