Adversarial Attacks and Defense on Texts: A Survey...

概要 NLPのadversarial attack, defenseのサーベイ論文。 単語表現などに微弱なノイズを加えるものではなく、文字や単語、文単位での入れ替えなど、実際の文章に対して変換を加えるものに限定して紹介し...


MNISTの手書き数字を分類したらシステムが乗っ取られる話

概要 「TensorFlow models are programs」これは、著名な機械学習プラットフォームであるGoogle TensorFlowの「Using TensorFlow Securely」の冒頭に記載され...


Transferable Clean-Label Poisoning Attacks on Deep...

概要 ブラックボックス設定でDNNベースの画像分類器にバックドアを設置する攻撃手法。その名も「Convex Polytope Attack」。 摂動を加えた画像データ(以下、汚染データ)を学習データに注入し、攻撃対象とな...


サムネイル画像

Android Malware Detection based on Factorization M...

概要 androidマルウェアの検知をFactorization machineを使って行うと、高い精度を達成できた。特徴として、API呼び出しや許可などをマニフェストファイルやソースコードから抽出した。 論文情報 公開...


BadNets: Identifying Vulnerabilities in the Machin...

概要 Deep learningは各分野で成果を出していて、計算リソースが必要になることが多い。そこで、クラウド上で学習するサービス(MLaaS)が出現し、既存のモデルを利用したり、転移学習などをさせることでコストを下げ...