自動化バイアス。

自動化バイアス（automation bias）とは、人が自動システムやAIの出力を、自分の判断や手元の反証よりも優先して受け入れてしまう認知の偏り。機械が示した答えに従い検証を省く「信頼のショートカット」であり、AIが概ね正確なときほど、まれな誤りを見逃しやすくなる。

もともとは航空分野で、操縦の自動化が安全に与える影響を問うなかで1990年代に論じられ、その後、医療・軍事、そしてAI支援の意思決定へと広がった概念です。

数字で見る

放射線科医27名を対象にした2023年の実験（『Radiology』掲載）では、AIが不正確な区分を提示すると、正答率は経験の浅い群で79.7%から19.8%へ、経験豊富な群でさえ82.3%から45.5%へ下落しました。経験は影響をやわらげはしても、消しはしませんでした。

本質

失敗は二つの形をとります。機械が警告しないから気づかない見落とし（omission）と、機械が示すから反証があっても従う鵜呑み（commission）です。問題は意志の弱さではなく、AIの性能が上がるほど検証を省く習慣が育つという構造にあります。だから対策は「気をつける」ではなく、疑う手続きを仕組みの側に埋め込むことになります。

出典: Dratsch T ほか（Radiology, 2023年5月）／Goddard K, Roudsari A, Wyatt JC（JAMIA, 2012年、系統的レビュー）