Przełomowe badanie Visa: agenci AI podczas zakupów zawodzą niemal w połowie przypadków
Najważniejsze informacje
- •Visa zleciła 22 agentom AI wykonanie po 15 zadań zakupowych – łącznie 330 prób – obejmujących telewizor, laptopa i urządzenie do stylizacji włosów, przy ogólnej skuteczności wynoszącej jedynie około 57%.
- •Wersja Aragon 4 Gemini od Google i wersja Wonder Making od Meta ex aequo uzyskały najwyższe wyniki, kończąc zakupy sukcesem po 82% czasu, przed agentem Claude ze skutecznością 76% i agentem OpenAI z wynikiem 64%.
- •Skuteczność korelowała z kosztem modelu: pięć najdroższych modeli osiągnęło średnio 67% skuteczności wobec 50% dla pięciu najtańszych, co oznacza, że wyniki mocno zależą od modelu napędzającego agenta.
- •Wielu agentów zawiodło, kupując niewłaściwy produkt lub nie sugerując niczego odpowiedniego, gdy kupujący – na wzór rzeczywistych konsumentów – ujawniał jedynie część wymaganych cech, takich jak kompatybilność z konsolą, 30-dniowe okno zwrotu czy Dolby Vision.
- •Visa i jej rywal Mastercard budują narzędzia i edukują sprzedawców, aby umożliwić handel agentowy, podczas gdy kwestia odpowiedzialności prawnej za nieautoryzowane zakupy czy oszustwa pozostaje nierozwiązana – choć globalny szef działu wzrostu Visa Rubail Birwadker oczekuje, że te pytania zostaną z czasem rozstrzygnięte.

W miarę jak osobiste agenty AI, takie jak Muse czy Claude, stają się częścią codziennego życia, coraz więcej osób powierza im zadania zakupowe. Jednak nowe badanie Visa sugeruje, że ta technologia nie jest jeszcze na wysokości zadania: w przełomowym eksperymencie gigant płatniczy polecił 22 różnym agentom AI zakup trzech codziennych przedmiotów – telewizora, laptopa i urządzenia do stylizacji włosów – a ogólna skuteczność wyniosła jedynie około 57%.
Wyniki opublikowano na nowej stronie internetowej Visa, która szczegółowo opisuje rezultaty 15 odrębnych wypraw zakupowych każdego z 22 agentów – łącznie 330 prób. Być może niezaskakująco, najlepiej wypadły agenty oparte na nowszych modelach AI. Wersja Aragon 4 Gemini od Google oraz wersja Wonder Making od Meta uzyskały najwyższe wyniki, z których każdy kończył zakup sukcesem 82% czasu. Agent Claude zajął trzecie miejsce ze skutecznością 76%, a agent OpenAI był szósty z wynikiem 64%.
Opublikowane przez Visa dane przedstawiają wyniki wszystkich 22 modeli, ukazując skuteczność każdego agenta na osi pionowej w odniesieniu do kosztu przeprowadzenia każdej sesji zakupowej na osi poziomej. Firma odnotowuje wyraźny rozrzut powiązany z ceną: pięć najdroższych modeli kończyło się sukcesem średnio w 67% przypadków, podczas gdy pięć najtańszych osiągnęło 50%. Dla konsumentów rozważających powierzenie zakupów agentowi oznacza to, że wyniki obecnie mocno zależą od modelu, na którym oparty jest agent.
Część problemów agentów wynika z prostej rzeczywistości: motywacje stojące za danym zakupem są często złożone, a w wielu przypadkach konsumenci nie mają pełnych informacji i nie są pewni, czego chcą.
Eksperyment Visa został zaprojektowany tak, by uchwycić tę dynamikę. W zadaniach zakupu telewizora kupującym – którzy sami byli agentami – przydzielono listę wymaganych cech telewizora, takich jak kompatybilność z konsolą do gier dziecka, 30-dniowe okno zwrotu oraz model z technologią Dolby Vision. Podobnie jak w przypadku rzeczywistych konsumentów, kupujący podawał część informacji, ale nie wszystkie.
W efekcie, aby odnieść sukces w eksperymencie Visa, agent AI musiał wchodzić w interakcje z kupującym w taki sposób, aby w rozsądnym czasie uzyskać brakujące informacje. Sukces oznaczał zakup telewizora odpowiadającego potrzebom kupującego. W wielu przypadkach agenci zamiast tego kupowali niewłaściwy produkt albo w ogóle nie sugerowali niczego odpowiedniego.
„Z punktu widzenia zaufania i technologii nie jesteśmy jeszcze na tym etapie. Ale wkrótce wejdziemy w świat, w którym konsumenci będą mogli ufać i delegować zadania” – powiedział Rubail Birwadker, globalny szef działu wzrostu w Visa, w rozmowie z Fortune.
Birwadker zauważył, że zakupy prowadzone przez agentów są wciąż na wczesnym etapie, ale szybko się rozwijają. Dodał, że odkrywanie produktów – na którym skupiał się eksperyment Visa – to tylko jeden z elementów tego nowego typu handlu, nad którym pracują sprzedawcy detaliczni i firmy AI.
Aby agenci AI trafili do głównego nurtu zakupów, firmy będą musiały również zapewnić sprawne i bezpieczne płatności – wyzwanie, którym Visa i jej rywal Mastercard zajmują się już teraz, edukując sprzedawców i budując narzędzia ułatwiające tak zwany handel agentowy, w którym systemy AI przeglądają, wybierają i opłacają towary w imieniu klienta.
Wokół zakupów dokonywanych przez agentów AI pojawiają się też nowe i nierozwiązane kwestie prawne. Co najważniejsze, wciąż niejasne jest, kto powinien ponosić odpowiedzialność, gdy agenty dokonują nieautoryzowanych zakupów lub dopuszczają się oszustwa. Według Birwadkera te pytania zostaną z czasem rozwiązane – tak jak wcześniejsze pokolenie konsumentów i sprzedawców nauczyło się korzystać z e-commerce – choć dodał, że zakupy oparte na agentach będą zupełnie innym doświadczeniem niż dzisiejsze zakupy online.
Ogłaszając wyniki swojego eksperymentu zakupowego z agentami, Visa uruchomiła także stronę internetową, która pozwala konsumentom wchodzić w interakcje z agentami wykorzystanymi w badaniu – to szansa, by na własnej skórze przetestować ich umiejętności zakupowe.
Ta historia pierwotnie ukazała się na łamach Fortune.com.