Ihr Arzt schaut Ihre Symptome wahrscheinlich auf seinem Telefon nach.

OpenEvidence, 2021 gegründet, ist eine kostenlose, werbefinanzierte KI-Suchmaschine für Ärzte, die Antworten direkt aus begutachteten medizinischen Fachzeitschriften am Ort der Versorgung bezieht und die Stärke der Evidenz kennzeichnet. Das Unternehmen ist so etwas wie das Aushängeschild des medizinischen KI-Booms geworden.

Die Bewertung des Unternehmens ist schnell gestiegen. Im Februar bewertete eine von Sequoia geführte Finanzierungsrunde OpenEvidence mit 1 Milliarde Dollar. In den darauffolgenden Monaten stieg der Wert bis Juli auf 3,5 Milliarden Dollar, wobei GV und Kleiner Perkins gemeinsam führten, dann im Oktober auf 6 Milliarden Dollar und in diesem Januar auf 12 Milliarden Dollar in einer Runde, die von Thrive Capital und DST Global gemeinsam angeführt wurde. Insgesamt entspricht das etwa 700 Millionen Dollar, die in rund einem Jahr eingesammelt wurden.

Doximity ist einen anderen Weg gegangen. Das Unternehmen ist vor allem als berufliche Netzwerkplattform für Ärzte bekannt und verkauft inzwischen einen KI-Assistenten namens Ask, der Ärzten hilft, Patientenakten zusammenzufassen, Arzneimittelwechselwirkungen zu prüfen und Dokumentationen zu entwerfen. Ask ist in bezahlte Enterprise-Verträge mit mehr als 150 Gesundheitssystemen eingebettet. Jede Antwort durchläuft eine menschliche Prüfschicht namens PeerCheck, in der Ärzte die KI-Ausgabe mit den ursprünglichen Quellen abgleichen, auf die sie sich bezieht. Doximity meldete in diesem Frühjahr Quartalsumsätze von 145,4 Millionen Dollar, 5% mehr als im Vorjahr.

Mitte Juli setzte ein neuer unabhängiger Benchmark namens NOHARM die KI-Tools von Doximity und OpenEvidence gemeinsam mit OpenAIs GPT-5.6 Sol und Anthropics Claude Fable 5 einem Test unter. Entwickelt von Forschern aus Stanford, Harvard und dem ARISE-Netzwerk, spielte der Benchmark 1.100 reale klinische Fälle durch jedes Modell und sammelte rund 13.000 ärztliche Annotationen, um Patientenschäden zu bewerten. Doximity Ask landete auf Platz eins. OpenEvidence stellte jedoch die Genauigkeit der Bewertung von Doximity infrage.

„Wir glauben, dass eine rigorose Studienmethodik KI-Systemen mit perfektem Gedächtnis nicht erlaubt, nach ‚Wiederholungstests‘ zu fragen“, sagte CEO Daniel Nadler mir per E-Mail. „Wir vermuten, dass dies ein Peer-Review nicht bestehen würde. Um klar zu sein: Die NOHARM-Studie ist nicht einmal peer-reviewed – die grundlegende Voraussetzung in der Medizin selbst für die schwächsten medizinischen Schlussfolgerungen.“

Der Befund geht jedoch nicht wirklich darum, wer „gewonnen“ hat. Entscheidend ist, dass selbst die leistungsstärksten Modelle weiterhin Dinge übersehen. Über alle getesteten KI-Systeme hinweg entfielen 76,6% der schädlichen Fehler auf Auslassungen, also darauf, dass die KI etwas wegließ und nicht, dass sie etwas faktisch Falsches sagte.

Eric Topol, Kardiologe, Wissenschaftler bei Scripps Research und Co-Vorsitzender von Doximitys PeerCheck-Programm, hat seine gesamte Karriere der Untersuchung diagnostischer Fehler gewidmet. Er sagte, dieser Unterschied sei bedeutsam: „Auslassungsfehler müssen so nahe wie möglich an Null gebracht werden“, sagte er mir und fügte hinzu, dass heutige Modelle weiterhin eine „Illusion der Einsatzbereitschaft“ erzeugen, die die medizinische KI selbst bei Fortschritten begleitet habe. (NOHARM merkte dennoch an, dass Ärzte mit KI eine bessere Versorgung bieten als Ärzte ohne KI.)

Der regulatorische Hintergrund macht den Zeitpunkt von NOHARM besonders aussagekräftig. Die FDA lockerte im Januar ihre Haltung zu KI-gestützten klinischen Entscheidungsunterstützungstools und gab ihnen mehr Spielraum, solange Ärzte die Argumentation der KI unabhängig prüfen können. Die Bundesstaaten gingen in die entgegengesetzte Richtung und verabschiedeten 2026 mehr als ein Dutzend neuer Gesetze zur Regulierung des KI-Einsatzes im Gesundheitswesen (die meisten verlangen eine menschliche Freigabe, bevor eine KI-gestützte Entscheidung einen Patienten erreicht). Das Haftungsrecht hat mit beiden Entwicklungen nicht Schritt gehalten: Die Gerichte klären noch, wer haftet – der Arzt, das Krankenhaus oder der KI-Anbieter –, wenn sich ein Vorschlag eines Modells als falsch herausstellt. Diese rechtliche Grauzone dürfte ein früher Hinweis darauf sein, wonach Aufsichtsbehörden, Krankenhausnetzwerke und die nächste Investorengeneration anfangen werden zu fragen.

Bis morgen,

Lily Mae Lazarus X: @LilyMaeLazarus Email: [email protected] Reichen Sie hier einen Deal für den Term Sheet-Newsletter ein.

Joey Abrams hat den Deals-Teil des heutigen Newsletters zusammengestellt. Hier abonnieren.

Diese Geschichte erschien ursprünglich auf Fortune.com