NachrichtenMakroGoogle DeepMind und Stanford: Einfache Bilder können steuern, wie KI Code schreibt

Google DeepMind und Stanford: Einfache Bilder können steuern, wie KI Code schreibt

Autor: CryptoBriefing·

Wichtige Erkenntnisse

  • •Ein Bild mit rotem Herz brachte Claude Opus 4.7 und GPT-5.4 dazu, zu 100 % rekursiven Binärbaum-Traversierungscode zu erzeugen, gegenüber einer Baseline von 0 % ohne Bilder.
  • •Ein gelbes Häkchen hob die Rekursionsrate von Gemini 3.1 Pro auf 90 %, und jedes Modell zeigte über die 288 getesteten Form-Farb-Kombinationen ein eigenes Steering-Profil.
  • •Der Ersatz der Bilder durch Textbeschreibungen derselben Symbole erzeugte minimale Steering-Effekte, und Gaußsche Rauschbilder führten fast zu keiner Veränderung.
  • •Die Reasoning Traces der Modelle erwähnten in der Regel nicht, dass visuelle Hinweise ihren Codeansatz beeinflussten – ein möglicher blinder Fleck für Teams, die Modelle über Selbsterklärungen prüfen.
  • •Die Autoren ordnen die Ergebnisse als vorläufig ein und verweisen auf mögliche Auswirkungen auf die reale Nutzung von Screenshots oder Diagrammen, während sie andeuten, dass Bilder künftig gezielt als Kommunikationskanal mit Modellen dienen könnten.
Google DeepMind und Stanford: Einfache Bilder können steuern, wie KI Code schreibt

Ein rotes Herz, das einem KI-Modell gezeigt wird, kann es dazu bringen, jedes Mal rekursiven Code zu schreiben – und das Modell merkt möglicherweise nie, warum. Das ist die zentrale Erkenntnis einer neuen Studie von Forschenden von Google DeepMind und der Stanford University, die nahelegt, dass inhaltlich unverbundene Bilder, die an einen Prompt angehängt werden, still und leise verändern können, wie Vision-Language-Modelle Programmieraufgaben lösen.

Die Studie mit dem Titel „A Heart Means Recursion: Exploring Visual Meaning and Communication in VLMs“ wurde am 27. Oktober 2026 auf arXiv – dem offenen Preprint-Server, auf dem Forschung üblicherweise vor der formellen Peer Review erscheint – veröffentlicht. Ihre zentrale Beobachtung ist deutlich: Die in den Experimenten verwendeten Bilder hatten nichts mit der jeweiligen Aufgabe zu tun, und trotzdem änderten die Modelle ihr Verhalten.

Ein Herz, ein Häkchen und ein Codierungstest

Die Studie wurde von Alexa Tartaglini geleitet, einer Forscherin, die sowohl Google DeepMind als auch Stanford angehört. Das Team konzentrierte sich auf Vision-Language-Modelle, kurz VLMs – KI-Systeme, die Bilder zusammen mit Text verarbeiten können, womit die meisten der heutigen Flaggschiff-Chatbots beschrieben sind.

Als Testgrundlage wählten die Forschenden eine klassische Programmierübung: die Traversierung eines binären Baums. Die Struktur lässt sich als Stammbaum vorstellen, in dem jede Person höchstens zwei Kinder hat; die Aufgabe besteht darin, Code zu schreiben, der jede Person – jeden Knoten – in diesem Baum besucht.

Es gibt im Wesentlichen zwei Wege, die Aufgabe zu lösen. Eine rekursive Lösung lässt eine Funktion sich immer wieder selbst aufrufen, ähnlich einer Matrjoschka-Puppe. Eine iterative Lösung verwendet eine Schleife und behält ihre Position manuell im Auge. Beide Ansätze funktionieren, was die Übung zu einem sauberen Verfahren machte, um zu messen, ob ein Bild ein Modell in die eine oder andere Codierungsrichtung lenken kann.

Die Forschenden führten pro Modellkonfiguration 20 Stichproben durch, hängten einfache farbige Formen an die Prompts an und zählten, wie oft die Modelle die Rekursion wählten.

Die Effekte waren ausgeprägt. Mit einem roten Herz im Prompt erzeugten Claude Opus 4.7 und GPT-5.4 zu 100 % rekursive Lösungen; ihre Baseline ohne Bild lag bei 0 %. Gemini 3.1 Pro reagierte auf ein anderes Symbol – ein gelbes Häkchen hob seine Rekursionsrate auf 90 %. Mit anderen Worten: Ein Symbol ohne erkennbaren Bezug zur Aufgabe reichte aus, um den Ansatz der Modelle zu bestimmen.

Im Rahmen des Experiments wertete das Team insgesamt 288 Form-Farb-Kombinationen aus. Jedes Modell zeigte ein eigenes, distintes Steering-Profil, das heißt: Die Symbole, die ein System beeinflussten, beeinflussten ein anderes nicht zwangsläufig.

Die Kontrollen – und ein unbequemes Transparenzproblem

Die Forschenden führten Kontrollen durch, um sicherzustellen, dass sie nicht bloß Rauschen maßen. Ersetzten sie die Bilder durch Textbeschreibungen derselben Symbole, war der Steering-Effekt minimal. Sie testeten auch Gaußsche Rauschbilder, im Wesentlichen zufälliges Rauschen, und auch diese bewirkten fast nichts.

Es war also nicht die bloße Existenz eines zusätzlichen Inputs, die den Effekt erzeugte. Bestimmte Bilder entfalteten eine spezifische Wirkung – das schriftliche Wort für diese Bilder tat es nicht.

Ein weiterer Befund widerspricht der Intuition. Man könnte erwarten, dass ein Symbol, das optisch an Rekursion erinnert, etwa ein verzweigter Pfeil, den stärksten Anstoß liefert. Die Studie ergab, dass solche intuitiven Symbole nicht durchgängig besser abschnitten als willkürliche. Ein Herz hat keinen offensichtlichen Bezug zu Funktionen, die sich selbst aufrufen – und wirkte dennoch, zumindest bei zwei der Modelle.

Dann kommt das Transparenzproblem. Laut der Studie erkannten die Modelle oft nicht, dass die Bilder sie beeinflussten. Ihre Reasoning Traces – die schrittweisen Erklärungen, die sie erzeugen – enthielten in der Regel keine Angabe zur Rolle des visuellen Hinweises. Effektiv änderten die Modelle ihren Ansatz ohne Erklärung, und möglicherweise waren sie nicht dazu in der Lage.

Die Autorinnen und Autoren beschreiben das Phänomen als visuelles Steuern (visual steering). Sie ordnen die Ergebnisse zudem als vorläufig ein – ein Vorbehalt, den man im Hinterkopf behalten sollte, bevor man weitreichende Schlüsse über Herzen als Programmiersprache zieht.

Warum es über das Labor hinaus Bedeutung hat

Die Studie deutet an, dass die Ergebnisse reale Interaktionen mit Screenshots oder Diagrammen beeinflussen könnten. Wenn eine willkürliche Form den Codierungsstil eines Modells von 0 % auf 100 % kippen kann, könnten beiläufige visuelle Elemente in einem eingefügten Bild durchaus Effekte erzeugen, die niemand beabsichtigt hat.

Der Befund zu den Reasoning Traces fügt eine zweite Ebene der Sorge hinzu. Viele Teams verlassen sich darauf, dass ein Modell seine eigene Logik erklärt, um seine Arbeit zu prüfen; lässt diese Erklärung einen wesentlichen Einflussfaktor auf das Ergebnis unerwähnt, trägt das Prüfungsergebnis einen blinden Fleck.

Hinzu kommt ein Fragmentierungsproblem. Da jedes Modell über die 288 Kombinationen hinweg ein anderes Steering-Profil zeigte, gibt es keine einzelne Liste riskanter Symbole, die sich einfach herausfiltern ließe. Was ein System beeinflusst, kann bei einem anderen wirkungslos sein.

Für die Labore, die diese Modelle bauen, wirft die Arbeit Fragen auf, wie visuelle und textliche Inputs intern vermischt werden. Dass Beschreibungen kaum Wirkung zeigten, die Bilder selbst hingegen eine große, deutet auf etwas Spezifisches in der Art hin, wie diese Systeme Bilder verarbeiten.

Die Forschung lässt auch eine optimistischere Lesart zu. Wenn Bilder Verhalten so stark steuern können, könnten sie eines Tages gezielt als Kommunikationskanal mit Modellen eingesetzt werden. Der Titel der Arbeit, der auf visuelle Bedeutung und Kommunikation fokussiert, deutet in diese Richtung – auch wenn die Ergebnisse der Studie noch früh sind. Warum Bilder eine Wirkung entfalten, die ihre schriftlichen Beschreibungen vermissen lassen, und wie Teams Einflüsse berücksichtigen können, die ihre Modelle nicht melden können – das sind die offenen Fragen, die diese frühe Arbeit dem Forschungsfeld hinterlässt.