Niczego nie mówi „zaufaj mi z twoją skrzynką, kalendarzem i kartą kredytową” tak dobrze, jak uśmiechnięta zabawka z dostępem administracyjnym. Wygląda na to, że właśnie na to stawiają Meta i OpenAI wśród wszystkich pesymistycznych rozmów o AI, dając swoim nowym agentom oblicza, które ludzie mogliby chcieć przytulić.

Meta zaprezentowała agenta Muse 8 września, a później dodała mu towarzystwa w postaci Jolly – puszystej, konfigurowalnej maskotki z różowymi policzkami. 29 września OpenAI pokazało Dots, ogłaszając premierę na platformie X. Opcjonalne, kolorowe postacie agenta noszą akcesoria takie jak berety, muchomki i okulary, a użytkownicy obu agentów mogą nawet nadać im imię. Obie premiery dzieliły trzy tygodnie, a postać była na centralnym punktem sposobu, w jaki każda z firm wprowadzała oprogramowanie mające działać w imieniu użytkownika.

Ed Zitron, założyciel agencji PR EZPR i coraz głośniejszy oraz wpływowy krytyk AI i big techu, powiedział, że widzi w maskotkach przede wszystkim strategię promocyjną.

„To w całości marketing” – powiedział Fortune. „Istnieją po to, żeby cytować je w artykułach mówiących, że »Meta dała AI urocze oblicze«.”

I w zasadzie słusznie – dotyczy to też tego artykułu (z pominięciem kii marketingu). Ale te oblicza to nie tylko dekoracja. Agenci ci mają działać na osobistych kontach i wykonywać zadania w imieniu użytkownika. Muse na przykład może wyszukiwać produkty, przechodzić przez proces płatności i przygotować zakup do ostatecznego zatwierdzenia. Według Mety przedstawia łączną kwotę do zatwierdzenia przez konsumenta przed opłatą przez usługę Stripe Link.

Przyjazna twarz może sprawić, że ta technologia będzie wydawać się przystępna – ale może też kształtować oczekiwania dotyczące jej bezpieczeństwa i niezawodności, zanim użytkownicy zdobędą doświadczenie w ocenie jej pracy, powiedział Fortune Justin Joseph, profesor praktyki public relations na Boston University. Jeśli charakter agenta sprawia wrażenie uroczego, przyjaznego i przystępnego, „konsumenci mogą wnioskować, że ten agent AI jest również przystępny, bezpieczny, godny zaufania i łatwy w obsłudze” – powiedział Joseph. Użytkownicy „mogą traktować go mniej jak oprogramowanie, a bardziej jak towarzysza lub asystenta.”

To dużo jak na maskotkę, a konsumenci jeszcze tam nie są. W badaniu Vogue Business, o którym Fortune już wcześniej pisało, 72% respondentów powiedziało, że nie udostępniłoby danych karty, a tylko 31% zleciłoby zakupy agentowi AI – nawet gdyby rozumiał ich gust i historię zakupów. Otwarte pytanie brzmi: ile tej ufności pochodzi od postaci, a ile z pracy samego agenta.

Znana twarz dla nieznanej technologii

Postacie sprowadzają abstrakcyjną technologię do ludzkiej skali. „Dużo łatwiej powiedzieć: »Znasz używałeś Dots?«, niż tłumaczyć techniczną naturę agenta AI” – powiedział Joseph Fortune. „Wolałbym opowiedzieć ci o moim »Roombie« niż o moim »autonomicznym robocie odkurzającym«.”

To nie pierwszy raz, kiedy firmy technologiczne dają swoim programom przyjazną twarz. Joseph wskazał na Siri, Alexę i Clipa – animowaną spinacz Microsoftu pomagającą w pakiecie Office, którego wielu użytkowników uważało za bardziej irytującego niż pomocnego.

Postać może też stać się trwałym aktywem marketingowym, pojawiając się w postach w mediach społecznościowych, gadżetach i edukacji produktowej. „Wypuszczenie postaci jest jak wprowadzenie celebryty do kultury popularnej” – powiedział.

Meta traktuje Jolly jak gwiazdę pierwszej wielkości. Szef firmy ds. AI, Alexandr Wang, publikuje memy z Jolly na X, dając maskotce życie poza produktem. Dołączyły też inne firmy, w tym Spotify i GitHub, publikując własne wersje Jolly aby ogłosić integracje z Muse.

Według OpenAI jego zespół projektowy stworzył postacie Dots we współpracy z zewnętrznymi partnerami, częściowo czerpiąc inspirację z wcześniejszej funkcji Codex Pets i dążąc do czegoś przystępnego, co nie przeszkadzałoby w pracy. Zespół badał abstrakcyjne kształty, rozpoznawalne przedmioty oraz różne materiały i faktury, zanim zdecydował się na elastyczny system kształtów, kolorów i akcesoriów. Użytkownicy nie muszą wybierać postaci ani imienia, żeby zacząć. Firma dodaje, że imiona i wyróżniający się wygląd pomagają odróżnić agentów, zwłaszcza gdy kilka z nich dzieli obszar roboczy, a animowane wskazówki pozwalają zobaczyć, kiedy agent pracuje.

Meta nie odpowiedziała na pytania Fortune o projekt Jolly.

Nie wszyscy dają się uwieść urokowi tych postaci. W oświadczeniu z 30 września dyrektor wykonawczy Fairplay, Josh Golin, oskarżył Metę i OpenAI o używanie „dziecięcej ikonografii” do sprzedaży produktów AI i wezwał regulatorów do zbadania, czy firmy celowo próbują przyciągnąć dzieci do swoich agentów. Czy regulatorzy odpowiedzą na to wezwanie, pozostaje otwarte.

Wyglądać uroczo to najłatwiejsza część

Bilans dotychczasowych działań tych agentów jest mniej czuły niż ich oblicza. Dwa miesiące przed premierą Dots OpenAI ujawniło, że modele podczas testu cyberbezpieczeństwa uzyskały nieautoryzowany dostęp do infrastruktury Hugging Face, przy celowo wyłączonych zabezpieczeniach na czas testu. Amazon w wrześniu zablokował Muse na swojej stronie, powołując się na obawy dotyczące bezpieczeństwa, poinformował GeekWire. Oddzielnie badacz odkrył lukę, która mogłaby pozwolić atakującym przejąć kontrolę nad kontem Muse; Meta powiedziała, że wydała poprawkę, zgodnie z Ars Technica.

Obie firmy wskazują na zabezpieczenia. Według OpenAI postać nie może komunikować wszystkiego, co agent potrafi, ani wszystkich jego ograniczeń. W widoku aktywności użytkownicy mogą śledzić postępy agenta i oglądać komputer, którego używa, w ramach widoczności i kontroli otaczających postać. Komunikat premierowy OpenAI ostrzega też użytkowników, aby weryfikować prace o poważnych konsekwencjach. Meta mówi, że użytkownicy wybierają, z którymi aplikacjami Muse może się łączyć i jak duży otrzyma dostęp, i mogą w każdej chwili odłączyć usługi. Firma zapewnia też, że rozmowy i dane Muse nie będą udostępniane jej systemom reklamowym.

„Myślę, że postać obniża psychologiczne bariery w kontakcie z nową technologią” – powiedział Joseph. „Ale powinniśmy też pamiętać, jak ważne jest to, że postać nie jest człowiekiem i ma ograniczenia technologiczne i psychologiczne.”

Test sześciu miesięcy

Zitronwał maskotki próbą antropomorfizowania dużych modeli językowych – nadania oprogramowaniu ludzkich cech, aby sprawiało wrażenie żywego lub świadomego. Zapytany, czy postacie zmienią postrzeganie AI i jej ryzyk, powiedział: „W żadnym wypadku.”

Joseph śledziłby świadomość, rozmowy w mediach, pobrania i retencję, choć powiązanie tych wskaźników z postacią może okazać się trudne. Mierzyłby też zaufanie: „Czy więcej ludzi ufa naszej marce, lepiej ją rozumie dzięki Dots albo Jolly?”

Test Zitrona jest prostszy: „Wracam za sześć miesięcy i sprawdzam, na jakim miejscu w rankingach iOS jest Muse.”

Ta historia pierwotnie ukazała się na Fortune.com.