藤本 聖
近年,機械学習,特に深層学習は飛躍的な進歩を遂げ,交通・医療・金融など多岐にわたる分野での応用により,我々の社会に大きな影響を与えている.しかしながら,機械学習は悪意を持つ者の攻撃に非常に脆弱であることが分かっている.本論文では様々な攻撃の中でもバックドア攻撃に対する防御を取り扱う.バックドア攻撃とは攻撃者が悪意のあるデータを訓練データセットの中に加えることで,その訓練データセットを用いて学習されたモデルが,攻撃者によって入力された悪意あるデータに対して,誤った出力をしてしまうものである.この攻撃に対する防御として,モデルの作成者しか知りえないデータ (署名) を訓練データセットに加えることで,攻撃の検知を行う署名埋込方式が提案されている.本論文ではこの防御手法について問題点を示し,改善手法を提案する.
