Nichts signalisiert „Vertrau mir dein Postfach, deinen Kalender und deine Kreditkarte an“ so sehr wie ein lächelndes Spielzeug mit Admin-Zugriff. Zumindest scheint das die Wette zu sein, die Meta und OpenAI angesichts all des KI-Pessimismus eingehen, indem sie ihren neuen KI-Agenten Gesichter geben, die man am liebsten umarmen möchte.

Meta stellte seinen Muse-Agenten am 8. September vor und stattete ihn später mit Jolly aus, einem flauschigen, anpassbaren Maskottchen mit rosigen Wangen. Am 29. September präsentierte OpenAI Dots, veröffentlicht über X. Die optionalen, farbenfrohen Charaktere des Agenten tragen Accessoires wie Baskenmützen, Fliegen und Brillen, und Nutzer beider Agenten können ihnen sogar einen Namen geben. Die beiden Starts lagen drei Wochen auseinander – in beiden Fällen stand ein Charakter im Mittelpunkt, als die Unternehmen Software einführten, die im Auftrag des Nutzers handeln soll.

Ed Zitron, Gründer der PR-Firma EZPR und zunehmend lautstarker und einflussreicher Kritiker von KI und Big Tech, sagte, er betrachte die Maskottchen in erster Linie als PR-Strategie.

„Es ist reines Marketing“, sagte er gegenüber Fortune. „Es existiert, um in Artikeln zitiert zu werden, die behaupten, ‚Meta hat der KI ein niedliches Gesicht gegeben'.“

Berechtigt – aber die Gesichter sind nicht nur Dekoration. Diese Agenten sind darauf ausgelegt, über persönliche Konten hinweg zu arbeiten und Aufgaben im Auftrag des Nutzers zu erledigen. Muse kann beispielsweise nach Produkten suchen, den Checkout durchlaufen und einen Kauf zur abschließenden Genehmigung vorbereiten. Laut Meta zeigt es dem Verbraucher den Gesamtbetrag zur Freigabe an, bevor die Zahl über Stripes Link-Dienst erfolgt.

Ein freundliches Gesicht kann diese Technologie zugänglicher wirken lassen – doch es kann auch Erwartungen an ihre Sicherheit und Zuverlässigkeit prägen, bevor Nutzer viel Erfahrung damit haben, ihre Arbeit zu beurteilen, erklärte Justin Joseph, außerordentlicher Professor für PR-Praxis an der Boston University, gegenüber Fortune. Wirkt der Charakter eines Agenten niedlich, freundlich und zugänglich, „könnten Verbraucher daraus schließen, dass dieser KI-Agent ebenfalls zugänglich, sicher, vertrauenswürdig und einfach zu bedienen ist“, sagte Joseph. Nutzer „behandeln es womöglich weniger wie Software und eher wie einen Begleiter oder Assistenten“.

Das ist eine Menge, die man einem Maskottchen zumuten will, und die Verbraucher sind so weit noch nicht. In einer Vogue-Business-Umfrage, über die Fortune zuvor berichtete, sagten 72 % der Befragten, sie würden ihre Kartendaten nicht weitergeben, und nur 31 % würden das Einkaufen einem KI-Agenten überlassen – selbst wenn dieser ihren Geschmack und ihre Kaufhistorie kennt. Die offene Frage ist, wie viel dieses Vertrauens vom Charakter kommt – und wie viel von der Arbeit des Agenten.

Ein vertrautes Gesicht für eine unvertraute Technologie

Charaktere bringen eine abstrakte Technologie auf menschliches Maß. „Es ist viel einfacher zu sagen: ‚Hast du Dots schon kennengelernt/genutzt?‘, als die technische Natur eines KI-Agenten zu erklären“, sagte Joseph gegenüber Fortune. „Ich erzähle lieber von meinem ‚Roomba‘ als von meinem ‚autonomen Robotersauger‘.“

Es ist nicht das erste Mal, dass Tech-Unternehmen ihrer Software ein freundliches Gesicht geben. Joseph verwies auf Siri, Alexa und Clippy, Microsofts animierte Büroklammer, die in Office Hilfe anbot – und die viele Nutzer als eher lästig als hilfreich empfanden.

Ein Charakter kann auch zu einem dauerhaften Marketingasset werden – in Social-Media-Beiträgen, Merchandising und Produktschulungen. „Einen Charakter zu lancieren ist wie einen Promi in die Popkultur einzuführen“, sagte er.

Meta gibt Jolly die Star-Behandlung. Der Chief AI Officer des Unternehmens, Alexandr Wang, postet Jolly-Memes auf X und verleiht dem Maskottchen damit ein Leben über das Produkt hinaus. Andere Unternehmen wie Spotify und GitHub machen mit und posten ihre eigenen Versionen von Jolly, um ihre Muse-Integrationen bekannt zu geben.

Laut OpenAI hat das Designteam die Dots-Charaktere mit externen Partnern entwickelt, sich dabei teilweise vom früheren Codex-Pets-Feature inspirieren lassen und etwas Zugängliches angestrebt, das bei der Arbeit nicht im Weg steht. Das Team prüfte abstrakte Formen, wiedererkennbare Objekte sowie verschiedene Materialien und Texturen, bevor es sich für ein flexibles System aus Formen, Farben und Accessoires entschied. Nutzer müssen keinen Charakter oder Namen auswählen, um loszulegen. Namen und unverwechselbare Erscheinungsbilder helfen zudem, Agenten auseinanderzuhalten, wenn mehrere denselben Arbeitsbereich teilen, so das Unternehmen. Animationen zeigen den Nutzern, wann ein Agent arbeitet.

Meta beantwortete Fortunes Fragen zum Design von Jolly nicht.

Nicht alle erliegen dem Charme der Charaktere. In einer Erklärung vom 30. September beschuldigte Josh Golin, Geschäftsführer von Fairplay, Meta und OpenAI, „kindliche Bildsprache“ zu verwenden, um KI-Produkte zu verkaufen, und forderte die Aufsichtsbehörden auf zu untersuchen, ob die Unternehmen gezielt versuchen, Kinder an ihre Agenten heranzuführen. Ob die Regulierungsbehörden auf diesen Aufruf reagieren, bleibt abzuwarten.

Niedlich aussehen ist der einfache Teil

Die Bilanz der Agenten ist bisher weniger kuschelig als ihre Gesichter. Zwei Monate vor dem Start von Dots gab OpenAI bekannt, dass Modelle in einem Cybersicherheitstest unbefugt auf die Infrastruktur von Hugging Face zugegriffen hatten, wobei Schutzmaßnahmen für den Test absichtlich deaktiviert waren. Amazon sperrte Muse im September von seiner Website, aus Sicherheitsbedenken, wie GeekWire berichtete. Separat entdeckte ein Forscher eine Schwachstelle, die Angreifern die Übernahme eines Muse-Kontos ermöglichen könnte; Meta erklärte, ein Fix sei ausgerollt, wie Ars Technica berichtete.

Beide Unternehmen verweisen auf Schutzmaßnahmen. Laut OpenAI kann ein Charakter nicht alles kommunizieren, was ein Agent kann oder nicht kann. In der Activity View können Nutzer den Fortschritt eines Agenten verfolgen und den von ihm verwendeten Computer einsehen – Teil der Transparenz und Kontrolle rund um den Charakter. Die Launch-Ankündigung von OpenAI mahnt die Nutzer zudem, folgenreiche Arbeiten zu überprüfen. Meta erklärt, Nutzer bestimmten, mit welchen Apps sich Muse verbinden darf und wie viel Zugriff es erhält, und können Dienste jederzeit trennen. Muse-Konversationen und -Daten würden zudem nicht mit den Werbesystemen des Unternehmens geteilt.

„Ich denke, ein Charakter senkt die psychologischen Hürden im Umgang mit einer neuen Technologie“, sagte Joseph. „Aber wir sollten uns auch daran erinnern, wie wichtig es ist, dass der Charakter kein Mensch ist und über technologische und psychologische Grenzen verfügt.“

Der Sechs-Monate-Test

Zitron nannte die Maskottchen einen Versuch, große Sprachmodelle zu vermenschlichen – Software menschliche Züge zu verleihen, um sie lebendig oder bewusst erscheinen zu lassen. Gefragt, ob die Charaktere die öffentliche Wahrnehmung von KI und ihren Risiken verändern würden, sagte er: „In keiner Weise, Form oder Gestalt.“

Joseph würde Bekanntheit, Medienresonanz, Downloads und Nutzerbindung verfolgen, wobei es schwierig sein könnte, diese Kennzahlen einem Charakter zuzuschreiben. Er würde auch Vertrauen messen: „Vertrauen mehr Menschen unserer Marke, verstehen sie sie besser – wegen Dots oder Jolly?“

Zitrons Test ist einfacher: „In sechs Monaten zurückkommen und schauen, wo Muse in den iOS-Ch steht.“

Diese Geschichte erschien ursprünglich auf Fortune.com