問題
AIの普及に伴い、AIシステムに対してさまざまな攻撃がなされるようになった。これらの攻撃に関する以下の文章の空欄A〜Cに入る用語の組み合わせとして、最も適切なものを下記の解答群から選べ。
データポイズニング攻撃は、強いバイアス（偏り）を持ったデータを意図的に学習させることで、機械学習モデル自体を汚染させ、推論結果を誤らせる攻撃である。
〔A〕は、機械学習済みモデルへの入力データに、攻撃者の意図した結果を引き起こすように計算されたノイズや微小な変化を含める攻撃である。そのため、データポイズニング攻撃と同様に、機械学習モデルの推論結果を操作することができる。〔B〕は、機械学習済みモデルへの入力データと推論結果である出力データを分析することによって、当初の学習データを推測する攻撃である。
生成AIに対しては、特殊な指示を与えて、意図しない挙動を引き起こす〔C〕という攻撃がある。この攻撃により、生成AIは不適切な回答をしたり、意図しない情報を開示してしまうことがある。
選択肢
- 1A：敵対的サンプル攻撃 B：ブルートフォース攻撃 C：プロンプト・インジェクション
- 2A：敵対的サンプル攻撃 B：モデル反転攻撃 C：クロスサイト・スクリプティング
- 3A：敵対的サンプル攻撃 B：モデル反転攻撃 C：プロンプト・インジェクション
- 4A：中間者攻撃 B：ブルートフォース攻撃 C：クロスサイト・スクリプティング
- 5A：中間者攻撃 B：モデル反転攻撃 C：プロンプト・インジェクション
正解
3. A：敵対的サンプル攻撃 B：モデル反転攻撃 C：プロンプト・インジェクション
詳しい解説を見る解説を閉じる
解説
Aは入力に微小な摂動（ノイズ）を加えて推論結果を誤らせる「敵対的サンプル攻撃（Adversarial Examples）」が該当。中間者攻撃（Man-in-the-Middle）は通信経路への盗聴・改ざんで別概念。Bは入出力から学習データを推測する「モデル反転攻撃（Model Inversion）」が該当。ブルートフォース攻撃はパスワード総当たりで別概念。Cは生成AIに特殊な指示を埋め込んで意図しない挙動を引き起こす「プロンプト・インジェクション」が該当。クロスサイト・スクリプティング（XSS）はWebアプリの脆弱性で別概念。よってA：敵対的サンプル攻撃、B：モデル反転攻撃、C：プロンプト・インジェクションでウが正解。（出典: 一般社団法人 中小企業診断協会 令和7年度 中小企業診断士1次試験 経営情報システム 第20問）
中小企業診断士トップ
一問一答・予想問題・まとめノート