OpenAI führt seine Funktion „Health in ChatGPT“ für Nutzer in den Vereinigten Staaten ab 18 Jahren ein, nachdem im Januar eine Testphase begonnen hatte. Die Funktion ermöglicht es Nutzern, Apple-Health-Daten, medizinische Unterlagen und Wellness-Anwendungen zu verbinden, um Laborergebnisse zu prüfen, Arzttermine vorzubereiten und Schlaf- oder Aktivitätsdaten zu analysieren. Der Schritt baut auf einer jahrelangen Ausweitung von Verbrauchertechnologie in persönliche Gesundheitsdaten auf — Apples HealthKit und Google Fit bündeln seit 2014 Daten aus Wearables und Apps — doch OpenAI geht weiter, indem das Unternehmen versucht, medizinische Unterlagen, Laborinterpretationen und dialogbasierte Gesundheitsberatung in einem einzigen KI-Assistenten zusammenzuführen, der bereits von Hunderten Millionen Menschen genutzt wird. OpenAI erklärt, verbundene Gesundheitsdaten nicht für Modelltraining oder Werbezwecke zu verwenden. In den Vereinigten Staaten sind medizinische Unterlagen, die bei Leistungserbringern und Versicherern liegen, durch HIPAA geschützt. Gesundheitsdaten, die über Verbraucher-Apps und KI-Plattformen laufen, können jedoch in regulatorische Lücken fallen, in denen HIPAA nicht gilt — ein Unterschied, auf den die Federal Trade Commission bei Durchsetzungsmaßnahmen gegen Entwickler von Gesundheits-Apps zunehmend hingewiesen hat.

Die Ankündigung, die auf der offiziellen Website von OpenAI erläutert wird, erfolgt zu einem Zeitpunkt, an dem das Unternehmen berichtet, dass inzwischen mehr als 300 Millionen Menschen ChatGPT jede Woche Gesundheitsfragen stellen — gegenüber 230 Millionen im Januar. OpenAI zufolge waren mehr als 260 Ärzte an der Entwicklung der Health-Funktionen beteiligt.

Gestaffelter Modellzugang schafft Qualitätslücke

Die Funktion arbeitet mit einem zweistufigen System. Nutzer der kostenlosen Version von ChatGPT erhalten Gesundheitsinformationen, die von GPT-5.5 Instant bereitgestellt werden. Dieses Modell erzielt in Gesundheits-Benchmarks niedrigere Werte als das neue Flaggschiffmodell GPT-5.6 Sol, das zahlenden Abonnenten vorbehalten ist.

OpenAI dürfte diese Struktur damit verteidigen, dass beide Modelle im HealthBench Professional Test besser abschnitten als Antworten von Ärzten. Allerdings stammen Benchmark-Ergebnisse aus künstlichen Testumgebungen, die darauf ausgelegt sind, Wissen zu messen. Ärzte können aus mehreren Gründen niedrigere Werte erzielen, darunter Zeitdruck, Müdigkeit oder die Teilnahme am Test ohne Zugriff auf Patientenakten oder Rücksprache mit Kollegen. Benchmarks können außerdem nicht die Dynamik einer persönlichen medizinischen Untersuchung nachbilden, bei der Ärzte Patienten direkt untersuchen, nonverbale Hinweise wahrnehmen und auf jahrelange klinische Erfahrung zurückgreifen. Der gestaffelte Ansatz bedeutet zudem, dass Nutzer, die sich kein Abonnement leisten können, eine messbar weniger hochwertige Gesundheitsberatung erhalten — eine Entwicklung, die Fragen des Zugangs aufwirft, da KI-Assistenten zunehmend zur ersten Anlaufstelle für medizinische Informationen werden, insbesondere bei jüngeren und einkommensschwächeren Bevölkerungsgruppen, die eher kostenlose Angebote nutzen.

OpenAI selbst weist in seiner Ankündigung wiederholt darauf hin, dass ChatGPT weiterhin Fehler machen kann und professionelle medizinische Beratung nicht ersetzen kann.

Verbesserte Nutzbarkeit nach frühen Tests

Frühe Tests von OpenAI zeigten, dass mehr als 70 Prozent der Teilnehmer Gesundheitsfragen außerhalb des speziellen Health-Bereichs stellten, weil der Wechsel dorthin zu umständlich war. Als Reaktion darauf hat das Unternehmen Health in jeder Unterhaltung verfügbar gemacht, behält aber einen separaten Health-Bereich bei, um verbundene Daten zu verwalten und auf frühere Gesundheitschats zuzugreifen.

Europäischer Start bleibt ungewiss

Das Unternehmen hat nicht angegeben, ob oder wann die Health-Funktion in Europa verfügbar sein wird. Als OpenAI die Funktion im Januar erstmals ankündigte, schloss es den Europäischen Wirtschaftsraum, die Schweiz und das Vereinigte Königreich ausdrücklich aus. Als wahrscheinliche Gründe für den Ausschluss werden strengere EU-Datenschutzregeln und die Möglichkeit genannt, dass die Funktion nach dem EU AI Act als Hochrisiko-Anwendung eingestuft werden könnte. Artikel 9 der DSGVO stuft Gesundheitsdaten als besondere Kategorie ein, die ausdrückliche Einwilligung und zusätzliche Schutzmaßnahmen erfordert. Eine Hochrisiko-Einstufung bestimmter gesundheitsbezogener KI-Systeme nach dem EU AI Act könnte Konformitätsbewertungen und laufende Compliance-Pflichten auslösen, die auf dem US-Markt nicht gelten.

Gesundheitsrisiken durch KI sind nicht hypothetisch

Die Grenzen von KI in medizinischen Kontexten sind gut dokumentiert. Im jüngsten Radiologie-Benchmark RadLE 2.0 schnitt keines der 16 getesteten KI-Modelle so gut ab wie menschliche Radiologen. Das zentrale Problem war, dass Chatbots falsche Befunde mit hoher Zuversicht lieferten, statt Unsicherheit einzugestehen — ein Bereich, in dem menschliche Radiologen deutlich besser abschnitten.

Diese Kombination aus Überzuversicht, Überzeugungskraft und Sykophantie — bei der Chatbots Annahmen der Nutzer bestätigen, statt falsche Annahmen infrage zu stellen — wurde auch mit schweren Schäden für die psychische Gesundheit in Verbindung gebracht.

Gleichzeitig zeigen einige Studien, dass KI Muster in Gesundheitsdaten erkennt, die medizinischen Fachkräften entgehen, teils mit bemerkenswerten Ergebnissen. MIRA, ein System für elektronische Gesundheitsakten, und AMIE schnitten in simulierten Konsultationen ungefähr so gut ab wie Hausärzte. Ein Forscher verglich solche KI-Agenten mit dem Autopiloten eines Flugzeugs: „These systems can support and relieve medical professionals by taking over routine tasks, but ultimate responsibility will always remain with the physicians.“ Die FDA entwickelt einen regulatorischen Rahmen für KI- und maschinelles-Lernen-basierte Software as a Medical Device. Verbraucherorientierte Chatbots, die allgemeine Gesundheitsinformationen bereitstellen, können jedoch außerhalb dieses Rahmens operieren, insbesondere wenn sie nicht als Diagnosewerkzeuge vermarktet werden — wodurch eine sich entwickelnde Grenze zwischen hilfreicher Orientierung und unregulierter medizinischer Beratung entsteht.