軸: 出力
IEEE Symposium on Security and Privacy (SP) 2017, pp. 3–18
｜ stub（原論文未読）
Membership inference attacks against machine learning models
TL;DR
特定のデータが機械学習モデルの訓練セットに含まれるか否かを予測する攻撃を定式化した原典。
分類器の構築（shadow model）によるアプローチ。
位置づけ
出力軸。メンバーシップ推論 の起点。言語モデル以前の機械学習一般を対象とする。
Ishihara 26 1 章で、暗記の定量化に用いられる考え方として最初に挙げられる。
手法・実験
分類器の構築による攻撃 [Shokri 17, Song 19]。
サーベイからは実験設定の詳細は判明しない（原論文未読）。
主要な知見
- 機械学習モデルの出力から、訓練セットへの帰属を推定できる
限界・批判
- 大規模な言語モデルを対象にする場合は分類器の学習が現実的ではないことが多く、
指標の算出に基づく手法 [Bentley 20, Choquette-Choo 21, Song 21] が
一般的になった（サーベイ 3·2§2）。つまり原典の手法は
言語モデルにはそのまま使えない
- 評価指標として AUC を用いる慣行は Carlini 22 に批判された
Wiki 内の接点