NotizieAzioniMeta e OpenAI danno volti simpatici ai loro agenti AI: ecco Jolly e Dots

Meta e OpenAI danno volti simpatici ai loro agenti AI: ecco Jolly e Dots

Autore: Fortune Crypto·

Punti chiave

  • •Meta ha introdotto il suo agente Muse l'8 settembre con la soffice mascotte Jolly, e OpenAI ha svelato il suo agente Dots il 29 settembre con personaggi personalizzabili opzionali, ponendo le mascotte al centro di entrambi i lanci a tre settimane di distanza.
  • •Gli agenti sono costruiti per operare attraverso account personali: Muse può cercare prodotti, navigare il checkout e presentare il totale per l'approvazione dell'utente prima del pagamento tramite il servizio Link di Stripe.
  • •Un sondaggio di Vogue Business ha rilevato che il 72% degli intervistati non condividerebbe i dati della carta con un agente AI, mentre solo il 31% affiderebbe lo shopping a un agente anche se conoscesse le loro preferenze.
  • •Il direttore esecutivo di Fairplay, Josh Golin, ha accusato Meta e OpenAI di usare iconografia per bambini per vendere prodotti AI e ha chiesto ai regolatori di indagare su whether le aziende stiano attirando i minori.
  • •Entrambi gli agenti hanno affrontato problemi di sicurezza, tra cui il blocco di Muse da parte di Amazon dal suo sito a settembre e una vulnerabilità scoperta da un ricercatore che poteva consentire il takeover dell'account, che Meta ha detto di aver corretto.
Meta e OpenAI danno volti simpatici ai loro agenti AI: ecco Jolly e Dots

Nulla dice «fidati della tua casella di posta, del tuo calendario e della tua carta di credito» come un giocattolo sorridente con privilegi di amministratore. Sembra essere almeno questa la scommessa di Meta e OpenAI, in mezzo a tutto il discorso sul doomismo dell'AI, che ai loro nuovi agenti AI hanno dato volti che le persone potrebbero voler abbracciare.

Meta ha presentato il suo agente Muse l'8 settembre e in seguito gli ha dato Jolly, una mascotte soffice e personalizzabile con guance rosa. Il 29 settembre OpenAI ha svelato Dots, annunciando il rilascio su X. Gli optional personaggi colorati dell'agente indossano accessori come berretti, papillon e occhiali, e gli utenti di entrambi gli agenti possono persino dargli un nome. I due lanci sono arrivati a tre settimane di distanza, con un personaggio al centro del modo in cui ciascuna azienda ha presentato un software pensato per agire per conto dell'utente.

Ed Zitron, fondatore della società di PR EZPR e critico sempre più rumoroso e influente dell'AI e delle Big Tech, ha detto di vedere nelle mascotte principalmente una strategia di pubblicità.

«È tutta operazione di marketing», ha detto a Fortune. «Esiste per essere citata in articoli che affermano che 'Meta ha dato all'AI un viso carino'.»

Giusto—ma i volti non sono solo decorazione. Questi agenti sono progettati per operare attraverso account personali e svolgere compiti per conto dell'utente. Muse, ad esempio, può cercare prodotti, navigare il checkout e preparare un acquisto per l'approvazione finale. Secondo Meta, presenta il totale al consumatore per l'approvazione prima del pagamento tramite il servizio Link di Stripe.

Un volto amichevole può rendere quella tecnologia accessibile—but può anche plasmare le aspettative sulla sua sicurezza e affidabilità prima che gli utenti abbiano molta esperienza nel giudicarne il lavoro, ha detto a Fortune Justin Joseph, professore associato di pratica delle relazioni pubbliche alla Boston University. Se il carattere di un agente appare carino, amichevole e accessibile, «i consumatori possono dedurre che anche questo agente AI sia accessibile, sicuro, affidabile, facile da usare», ha detto Joseph. Gli utenti «potrebbero trattarlo meno come un software e più come un compagno o un assistente».

È tanto chiedere a una mascotte, e i consumatori non sono ancora lì. In un sondaggio di Vogue Business riportato in precedenza da Fortune, il 72% degli intervistati ha detto che non condividerebbe i dati della carta, mentre solo il 31% ha detto che affiderebbe lo shopping a un agente AI—anche se conoscesse i loro gusti e la cronologia degli acquisti. La domanda aperta è quanta di quella fiducia venga dal personaggio e quanta dal lavoro dell'agente.

Un volto familiare per una tecnologia sconosciuta

I personaggi portano una tecnologia astratta a scala umana. «È molto più facile dire 'Hai conosciuto/usato Dots?' che spiegare la natura tecnica di un agente AI», ha detto Joseph a Fortune. «Preferisco parlarti del mio 'Roomba' che del mio 'aspirapolvere robotico autonomo'.»

Non è la prima volta che le aziende tecnologiche mettono un volto amichevole al loro software. Joseph ha citato Siri, Alexa e Clippy, la graffetta animata di Microsoft che offriva aiuto in Office—e che molti utenti hanno trovato più fastidiosa che utile.

Un personaggio può anche diventare una risorsa di marketing continuativa, comparendo nei post social, nel merchandising e nella formazione sui prodotti. «Lanciare un personaggio è come lanciare una celebrità nella cultura popolare», ha detto.

Meta sta dando a Jolly il trattamento da star. Il chief AI officer dell'azienda, Alexandr Wang, ha pubblicato meme di Jolly su X, dando alla mascotte una vita oltre il prodotto. Altre aziende, tra cui Spotify e GitHub, si sono unite, pubblicando le loro versioni di Jolly per annunciare le integrazioni con Muse.

Secondo OpenAI, il suo team di design ha sviluppato i personaggi di Dots con partner esterni, attingendo in parte alla precedente funzionalità Codex Pets e puntando a qualcosa di accessibile che non fosse di intralcio al lavoro. Il team ha esplorato forme astratte, oggetti riconoscibili e diversi materiali e texture prima di scegliere un sistema flessibile di forme, colori e accessori. Gli utenti non devono selezionare un personaggio o un nome per iniziare. L'azienda aggiunge che nomi e apparenze distinte aiutano le persone a distinguere gli agenti, in particolare quando più agenti condividono uno spazio di lavoro, e segnali animati permettono agli utenti di vedere quando un agente sta lavorando.

Meta non ha risposto alle domande di Fortune sul design di Jolly.

Non tutti cadono sotto il fascino dei personaggi. In una dichiarazione del 30 settembre, il direttore esecutivo di Fairplay, Josh Golin, ha accusato Meta e OpenAI di usare «iconografia per bambini» per vendere prodotti AI e ha chiesto ai regolatori di indagare su whether le aziende stiano deliberatamente cercando di attirare i bambini verso i loro agenti. Resta da vedere se i regolatori risponderanno a questa richiesta.

Essere carini è la parte facile

I track record degli agenti finora sono meno soffici dei loro volti. Due mesi prima del lancio di Dots, OpenAI ha rivelato che modelli in un test di cybersecurity avevano ottenuto accesso non autorizzato all'infrastruttura di Hugging Face, con le protezioni disattivate intenzionalmente per il test. Amazon ha bloccato Muse dal suo sito a settembre, citando preoccupazioni di sicurezza, ha riportato GeekWire. Separatamente, un ricercatore ha trovato una vulnerabilità che poteva consentire ad attaccanti di prendere il controllo di un account Muse; Meta ha detto di aver rilasciato una correzione, secondo Ars Technica.

Entrambe le aziende indicano i guardrail. Secondo OpenAI, un personaggio non può comunicare tutto ciò che un agente può fare o tutti i suoi limit. Nella Activity View, gli utenti possono seguire i progressi di un agente e ispezionare il computer che usa, parte della visibilità e del controllo che circondano il personaggio. L'annuncio di lancio di OpenAI avverte inoltre gli utenti di rivedere i lavori di conseguenza significativi. Meta dice che gli utenti scelgono a quali app Muse può connettersi e quanto accesso riceve, e possono disconnettere i servizi in qualsiasi momento. Dice anche che le conversazioni e i dati di Muse non saranno condivisi con i suoi sistemi pubblicitari.
«Penso che un personaggio abbassi le barriere psicologiche all'interazione con una nuova tecnologia», ha detto Joseph. «Ma dovremmo anche ricordare quanto sia importante che il personaggio non sia un essere umano, e che abbia limitazioni tecnologiche e psicologiche.»

Il test dei sei mesi

Zitron ha definito le mascotte un tentativo di antropomorfizzare i modelli linguistici di grandi dimensioni—dare al software tratti umani per farlo sembrare vivo o cosciente. Chiesto se i personaggi avrebbero cambiato la percezione pubblica dell'AI e dei suoi rischi, ha detto: «In nessun modo, forma o maniera».

Joseph ha detto che monitorerebbe consapevolezza, conversazione mediatica, download e retention, anche se collegare quei parametri a un personaggio potrebbe rivelarsi difficile. Misurerebbe anche la fiducia: «Più persone si fidano del nostro brand, lo capiscono meglio, grazie a Dots o Jolly?»

Il test di Zitron è più semplice: «Tornare tra sei mesi e vedere dove si trova Muse nelle classifiche iOS».

Questa storia è stata pubblicata originariamente su Fortune.com.