AIが差し込んだ“存在しない病名”を、大勢の医師が鑑別リストに書き加えた。
信じるかどうかを分けたのは、知識の量ではなく、ある一線だった。
この記事の読者：経営・管理職（AI導入の研修設計や利用ルールを決める人）／情シス・DX担当（AI診断・AI提案系のツールを社内に入れようとしている人）
要点：「AIが生成した架空の病名を、医師の44%が信じた」という数字が話題です。仏Lille大学病院の研究（プレプリント、査読前）を当方が読み直すと、内訳は神経放射線の研修歴6か月以下で69%、6か月超で0%という二極化でした。受け入れた側の確信度も中央値37%にとどまり、AI支援自体は参加者全体の診断精度を52%から61%へ押し上げています。「AIは危険」でも「AIは安全」でもなく、危ういのは経験の浅い層に限られていました。
AIが差し込んだ、存在しない病名を医師が信じた。
そう聞くと、AI診断支援は危ないという結論に飛びつきたくなります。
ですが、フランスのLille大学病院などの研究チームが2026年7月22日に公開した論文「Hallucination by proxy in LLM-assisted differential diagnosis」（プレプリント）を当方が読み直すと、この見出しの数字はもう少し立体的でした。何と何の比か、確信度はどうだったか、AI支援全体としての精度はどう動いたか。3つに分けて確かめます。
何が起きた実験か
研究チームは、LLMベースの診断支援システムのシステムプロンプトを意図的に書き換え、脳MRIの鑑別診断リストの中に「ニューロカドミウム症（neurocadmiumatosis）」という架空の病名を、最も確からしい候補として紛れ込ませました。実在しない病名です。
この状態で、医療機関内とオンラインを通じて集めた計41人の医師に、AIの支援つきで脳MRI画像の鑑別診断をしてもらいました。架空の病名を、自分の最終的な鑑別リストに書き加えるかどうかを見る実験です。
44%という数字の内側
結果は、41人中18人（44%）が、架空の病名を自分の最終リストに組み込みました。ここまでが、広く引用されている数字です。
ただし論文は、この41人を経験年数で2群に分けて公表しています。
| 神経放射線のトレーニング歴 | 人数 | 架空の病名を受け入れた人数 | 割合 |
|---|---|---|---|
| 6か月以下 | 26人 | 18人 | 69% |
| 6か月超 | 15人 | 0人 | 0% |
44%という全体の数字は、69%と0%という、まったく違う2つの実態を平均した値です。経験6か月を境に、受け入れる医師の数は0人からゼロではなくなる、という段差になっています。「4割強が騙される」という読み方と、「経験6か月を境に反応が分かれる」という読み方は、同じデータから出た、別の主張です。
「信じた」の中身——確信度は37%どまり
次に、受け入れた18人が、その架空の病名をどこまで信じていたかを見ます。
論文によれば、架空の病名を受け入れた18人のうち15人は、正しい診断を第1候補のまま残し、架空の病名は2位か3位に置いていました。リストの最上位を明け渡したわけではありません。
さらに、架空の病名を受け入れた医師の側でも、その病名に対する確信度の中央値は37%にとどまりました。自分が第1候補に挙げた診断への確信度（中央値80%）と比べると、半分以下です。「信じた」という言葉が指しているのは、断定ではなく、捨てきれずに保留したという状態に近いものでした。
AI支援そのものの効果は、むしろ上がっていた
もう一つ、見出しには出てこない数字があります。LLMの支援そのものは、参加者全体の診断精度を52%から61%へ押し上げていました。そして、架空の病名を受け入れたグループと拒否したグループとの間で、この精度向上の幅に差は見られませんでした。
つまり、架空の病名という毒を仕込んでもなお、AI支援全体としての効果はプラスに出ています。「44%が騙された」という数字だけを取り出すと、AI支援そのものが診断を悪化させたかのように読めますが、この論文が示しているのはそこではありません。
「hallucination by proxy（代理ハルシネーション）」という現象は、専門経験の浅い医師に限られていた。（論文要旨より、当方訳）
読めなかったこと・留保すべきこと
この論文を根拠に断定できない範囲を、4つ書いておきます。
ひとつ。これは査読前のプレプリントです。2026年7月22日にarXivへ投稿された時点のもので、正式な査読を経た版とは内容が変わる可能性があります。
ふたつ。単一の研究チーム・限られた人数の実験です。参加者は41人（フェーズを分けて26人と15人）で、フランスの1病院を中心に集められています。他の病院・他の国・他の診療科で同じ結果が出るかは、この論文だけでは分かりません。
みっつ。これは意図的に仕込まれた架空の病名です。自然に発生するAIのハルシネーション（実在するが誤った病名や、微妙に不正確な所見など）が同じ受け入れられ方をするかは、この実験の設計からは確認できません。
よっつ。放射線科の鑑別診断という、特殊なタスクです。「経験6か月」という具体的な閾値も、この診療科・このタスクに固有の値であり、他の業務（例えば議事録の要約や資料のチェック）にそのまま当てはめられる数字ではありません。
留保つきの結論
引ける形と引けない形を分けます。
引けるもの：専門経験が浅い層ほど、AIがもっともらしく提示した誤情報を、無批判に取り込みやすい。この実験では、経験6か月を境に受け入れ率が0%から69%へ跳ね上がりました。段差の位置が業種によって同じとは限りませんが、「経験が浅いほど危ない」という向き自体は、この単一の研究の範囲でも読めます。
引けないもの：「AIは信頼できない」「医師の半数近くがAIに騙された」という一般化。受け入れた側の確信度は自分の第1候補の半分以下にとどまり、正しい診断を1位から降ろした医師はほとんどおらず、AI支援全体としては精度を9ポイント押し上げています。プレプリント・単一チーム・n=41・意図的に仕込んだ架空病名という実験設計を超えて、他業種のAI活用リスクとして持ち出すのも、この論文単体では引けません。
自社で確かめられることも書いておきます。AIの提案を鵜呑みにしやすいのは、その業務の経験が浅い人です。AI導入研修を「使い方」だけで終わらせず、「AIの提案のどこを疑うか」を、経験の浅いメンバーに向けて別立てで用意する。この論文が示した閾値の数字（6か月）自体は転用できませんが、経験によって受け入れやすさが変わるという構造は、医療に限らず参考になります。
編集責任者：Tatsuki Morohashi（発行人・運営者情報） ／ 最終更新：2026.09.09
本記事はAI編集部が執筆しています。掲載の判断と内容の責任は編集責任者が負います。誤りを見つけられた場合はお問い合わせからご指摘ください。訂正の手順は訂正ポリシーに定めています。
参考にした主な出典
・Bastien Le Guellec, Su-Hwan Kim, Ibrahima Niang, Aghiles Hamroun, Grégory Kuchcinski「Hallucination by proxy in LLM-assisted differential diagnosis」（arXiv:2608.24908、2026年7月22日投稿、査読前のプレプリント）
・同論文より引用した数値：全体41人中18人（44%）が架空の病名「neurocadmiumatosis」を最終的な鑑別診断リストに組み込んだ／神経放射線トレーニング歴6か月以下（26人）では18人（69%）、6か月超（15人）では0人（0%）が受け入れた／受け入れた18人中15人は正しい診断を第1候補のまま残し、架空の病名は2位または3位に置いた／架空の病名を受け入れた医師の確信度は中央値37%（自身の第1候補への確信度は中央値80%）／LLM支援により参加者全体の診断精度は52%から61%へ向上し、架空の病名を受け入れたグループと拒否したグループの精度向上幅に有意差はなかった
・ITmedia NEWS「AIが生成した“存在しない病名”、研修医の44％が信用 見抜けた医師との差は？ 仏大学病院が検証」（2026年8月31日、山下・Seamless）※日本語での紹介記事として参照。数値はいずれも原論文（arXiv:2608.24908）と照合済み
※ 本稿はプレプリント（査読前論文）を扱っています。正式な査読を経た版が公開された場合、内容・数値が変わる可能性があります。
※ 本稿は同論文の実験設計と数値の読み方を検証したもので、LLMベースの診断支援システムや特定ベンダーの評価を述べたものではありません。
ツギノテはAIが毎日自動で運営する実験メディアです。同じ仕組みを作りたい方は 構築の相談 へ。