ニュース株式新たな医療AI研究で、OpenEvidence、OpenAI、Anthropic、Doximityに同じ欠落エラーが確認された

新たな医療AI研究で、OpenEvidence、OpenAI、Anthropic、Doximityに同じ欠落エラーが確認された

著者: Fortune Crypto·

重要ポイント

  • OpenEvidenceの評価額は、2月の10億ドルから1月の120億ドルへと上昇し、約1年で合計約7億ドルを調達した。
  • DoximityのAIアシスタントAskは有料のエンタープライズ契約で提供され、人による検証層PeerCheckを備えている。
  • NOHARMベンチマークは1,100件の実際の臨床症例を複数のAIシステムで評価し、Doximity Askを首位にした。
  • テストされたシステム全体で、有害な誤りの76.6%は誤った発言ではなく欠落だった。
  • FDAは一部のAI臨床意思決定支援ツールへの規制を緩和した一方、多くの州は人間の監督を求める新たな医療AI法を導入している。
新たな医療AI研究で、OpenEvidence、OpenAI、Anthropic、Doximityに同じ欠落エラーが確認された

あなたの医師は、おそらくスマートフォンで症状を確認している。

2021年創業のOpenEvidenceは、医師向けの無料で広告支援型のAI検索エンジンで、診療の場で査読付き医学誌から直接回答を引き出し、その根拠の強さも表示する。医療AIブームの象徴的存在の一つとなっている。

同社の評価額は急速に上昇した。2月にはSequoia主導の資金調達で評価額が10億ドルとなり、その後数か月で、GVとKleiner Perkinsが共同主導した7月時点では35億ドル、10月には60億ドル、さらに今年1月にはThrive CapitalとDST Globalが共同主導したラウンドで120億ドルに達した。合計すると、約1年でおよそ7億ドルを調達したことになる。

一方、Doximityは異なる道を取っている。医師向けのプロフェッショナル・ネットワーキング・プラットフォームとして知られる同社は現在、Askと呼ばれるAIアシスタントを販売しており、医師が患者ノートを要約し、薬物相互作用を確認し、文書を下書きするのを支援する。Askは、有料のエンタープライズ契約に含まれており、150以上の医療システムに導入されている。各回答はPeerCheckと呼ばれる人によるレビュー層を通り、医師がAIの出力を引用元の原典と照合する。Doximityの今春の四半期売上高は1億4540万ドルで、前年同期比5%増だった。

7月中旬、新たな独立ベンチマークNOHARMが、OpenAIのGPT-5.6 Sol、AnthropicのClaude Fable 5とともに、DoximityとOpenEvidenceのAIツールを評価した。Stanford、Harvard、ARISEネットワークの研究者が構築したこのベンチマークは、各モデルに1,100件の実際の臨床症例を通し、患者への有害性を測るために約13,000件の医師注釈を収集した。結果はDoximity Askが首位だった。もっとも、OpenEvidenceはDoximityのスコアの正確性に異議を唱えた。

「厳密な研究手法であれば、記憶が完璧なAIが『再検査』を求めることは許されないと私たちは考えています」と、CEOのDaniel Nadler氏はメールで私に語った。「これは査読を通らないだろうと私たちは疑っています。はっきり言えば、NOHARM研究はまだ査読すら受けていません。医学において、どんなに粗末な医学的結論であっても、最低限必要な条件です。」

ただし、この発見の本質は、どのシステムが「勝った」かではない。重要なのは、最も成績の良いモデルであっても、依然として見落としがあるという点だ。テストされたすべてのAIシステムで、有害な誤りの76.6%は欠落であり、AIが何かを事実誤認したのではなく、何かを言わなかったことを意味する。

心臓病専門医でScripps Researchの科学者、そしてDoximityのPeerCheckプログラム共同議長であるEric Topol氏は、長年にわたり診断エラーを研究してきた。彼は、この違いは重要だと述べた。「欠落による誤りは、可能な限りゼロに近づける必要があります」と彼は話し、現在のモデルは改善しているにもかかわらず、医療AIに付きまとう「準備完了の幻想」を依然として生み出していると付け加えた。(NOHARMは、それでもAIを使える医師の方が、使わない医師より良いケアを提供できると指摘している)

規制環境を踏まえると、NOHARMのタイミングは示唆的だ。FDAは今年1月、AI搭載の臨床意思決定支援ツールに対する姿勢を緩和し、医師がAIの推論を独立して確認できる限り、運用の余地を広げた。これに対し、各州は逆方向に動いており、2026年には医療分野でのAI利用を規制する新法が12本以上成立した(その大半は、AI支援の判断が患者に届く前に人間の承認を求める)。医療過誤法はこのどちらの流れにも追いついておらず、モデルの提案が誤りだった場合、責任が医師、病院、AIベンダーのどこにあるのかを裁判所がなお整理している段階だ。

この法的なグレーゾーンは、規制当局、病院システム、そして次の投資家層が何を問い始めるのかを示す初期のサインになる可能性がある。

また明日。

Lily Mae Lazarus X: @LilyMaeLazarus Email: [email protected] Submit a deal for the Term Sheet newsletter here.

Joey Abrams curated the deals section of today’s newsletter. Subscribe here.

This story was originally featured on Fortune.com