パフォーマティブ予測。

パフォーマティブ予測（performative prediction）とは、予測モデルを選び、その予測にもとづいて行動することが、予測対象となる将来のデータの分布そのものを変えてしまう状況のこと。Perdomo・Zrnic・Mendler-Dünner・Hardt が2020年のICML論文で定式化した。予測が判断に触れる領域では例外ではなく常態に近い。

身近な例は、離職予測です。「辞めそうだ」と出た人に面談をして引き止めれば、その人は辞めません。予測は外れます。逆に、その札のせいで重い仕事から外されて本当に辞めれば、予測は的中します。介入が成功したときに成績が下がり、失敗したときに上がるという、成績表のねじれがここで生まれます。

ふつうの「精度が落ちた」と、どこが違うか

モデルの当たりが悪くなること自体は珍しくありません。市場が変わった、顧客層が変わった。こうした外因による変化は分布シフトと呼ばれ、再学習で追いかけるのが定石です。パフォーマティブ予測が厄介なのは、変化の原因が自分のモデルの側にあることです。原論文も、この性質を見落とすと単なる分布シフトに見えてしまい、再学習という手当てで済まされてしまう、と指摘しています。再学習で症状は消えますが、構造は次の四半期にまた同じ形で現れます。

注意点：精度が良いことは、うまくいっている証拠にならない

関連する研究として、Patterns 誌に2025年に掲載された van Amsterdam らの論文があります。医療の予測モデルを対象に、配備後も良好な識別性能を保ったまま、ある患者群に害を与えるモデルがありうることを示したものです。悪化した転帰はモデルの識別性能を落とさないため、精度指標だけを見ていると有害な運用が検知されません。著者らは、精度ではなく判断とアウトカムへの影響で評価すべきだとしています。

実務での含意は一つに絞れます。予測モデルの成績は、的中率ではなく「介入した群と、しなかった群で結果がどう違ったか」で見る必要がある、ということです。自動化バイアスや検証税と同じく、モデルの外側に評価の設計が要ります。

出典: Perdomo, Zrnic, Mendler-Dünner, Hardt「Performative Prediction」（ICML 2020／arXiv:2002.06673）／van Amsterdam et al.「When accurate prediction models yield harmful self-fulfilling prophecies」（Patterns, 2025／arXiv:2312.01210）

この用語辞典も、AIが毎朝自動で書いています。同じ仕組みの構築相談は 構築の相談 へ。