令和3年度 秋期 情報処理安全確保支援士試験 午前Ⅱ 問題 問1
AIによる画像認識において，認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによってAIアルゴリズムの特性を悪用し，判定結果を誤らせる攻撃はどれか。
解答・解説
正解: イ. Adversarial Examples攻撃
Adversarial Examples（敵対的サンプル）攻撃は、AIの画像認識モデルにおいて、人間の目には気づかないような微小なノイズ（摂動）を入力データに加えることで、AIに意図的に誤分類を引き起こさせる攻撃手法です。問題文の「認識させる画像の中に人間には知覚できないノイズや微小な変化を含めることによってAIアルゴリズムの特性を悪用し，判定結果を誤らせる攻撃」という記述に該当します。したがって、正解はイです。
各選択肢の解説
- ア Adaptively Chosen Message攻撃: 暗号解読手法の概念の一つ（適応的選択メッセージ攻撃など）であり、AIの画像認識モデルに対する攻撃ではありません。
- イ Adversarial Examples攻撃: 正解です。人間にはわからない微小な変化をデータに加えることで、AIモデルの判断を誤らせます。
- ウ Distributed Reflection Denial of Service攻撃: 略称はDRDoS攻撃（分散反射型DoS攻撃）です。ネットワーク上の多数の機器を踏み台とし、送信元を偽装した要求を送り、その大量の応答を標的に集中させてサービスを妨害する攻撃であり、AIへの攻撃ではありません。
- エ Model Inversion攻撃: 学習済みのAIモデルに対して入出力を繰り返し、その応答からモデルの学習に用いられた機密性の高い訓練データを推定・復元しようとする攻撃です。意図的に判定結果を誤らせる攻撃ではありません。