AIセキュリティ超入門

AIセキュリティ超入門
更新日: 2020-08-01

第1話～AIをとりまく環境とセキュリティ～

近年、ディープラーニングをはじめとする様々な機械学習を活用したAI*1の発展に伴い、日本国内においても顔認証システムや防犯システム、自動運転技術など、様々な分野でAIの社会実装が進んでいます。その一方で、AIに対する攻...

beginner

AIセキュリティ超入門
更新日: 2020-08-05

第2回～　AIを騙す攻撃 – 敵対的サンプル -　～

本連載は「AIセキュリティ超入門」と題し、AIセキュリティに関する話題を幅広く・分かり易く取り上げ、連載形式でお伝えしていきます。なお、本コラムでは、単にAIに対する攻撃手法や想定されるリスクのみを取り上げるのではなく、...

beginner

AIセキュリティ超入門
更新日: 2020-09-09

第3回～　AIを乗っ取る攻撃 – 学習データ汚染 -　～

本連載は「AI*1セキュリティ超入門」と題し、AIセキュリティに関する話題を幅広く・分かり易く取り上げていきます。本連載を読むことで、AIセキュリティの全体像が俯瞰できるようになるでしょう。 *1：本コラムにおける【AI...

beginner

AIセキュリティ超入門
更新日: 2020-10-12

第4回～　AIのプライバシー侵害 – メンバーシップ推論 –　～

beginner

AIセキュリティ超入門
更新日: 2020-10-19

第5話～ AIの推論ロジックを改ざんする攻撃 – ノード注入 – ～

beginner

AIセキュリティ超入門
更新日: 2020-12-10

第６話　〜AIシステムへの侵入 – 機械学習フレームワークの悪用 -〜

本連載は「AI*セキュリティ超入門」と題し、AIセキュリティに関する話題を幅広く・分かり易く取り上げていきます。本連載を読むことで、AIセキュリティの全体像が俯瞰できるようになるでしょう。 *本コラムにおける【AI】の定...

beginner rce

AIセキュリティ超入門
更新日: 2021-02-16

第７話　〜 AIの身辺調査 – AIに対するOSINT – 〜

本コラムは第７回「AIの身辺調査 - AIに対するOSINT -」です。本コラムでは、攻撃者が攻撃対象のAI（以下、標的AI）を効率的に攻撃するために、合法的に入手可能な情報を基に、標的AIに関する内部情報（データセ...

beginner osint

AIセキュリティ超入門
更新日: 2021-03-25

第８話　〜セキュアなAIを開発するには？ – 国内外のガイドライン – 〜

本コラムは第８回「セキュアなAIを開発するには？ – 国内外のガイドライン –」です。第１回から第７回までは、AIを取り巻くセキュリティの環境や、AIに対する具体的な攻撃手法を紹介してきました。AIを攻撃から守るため...

beginner guideline

Adversarial Robustness Toolbox（ART）超入門

ART使い方講座
更新日: 2020-09-02

第１回：敵対的サンプル -非標的型の回避攻撃-

Adversarial Robustness Toolbox（ART）は、AI*1セキュリティのためのPythonライブラリです。ARTを使用することで、AIに対する攻撃手法（敵対的サンプル攻撃、データ汚染攻撃、モデル抽...

art_beginner

ART使い方講座
更新日: 2020-09-23

連載特集

AIセキュリティ超入門

第1話 ～AIをとりまく環境とセキュリティ～

第2回 ～ AIを騙す攻撃 – 敵対的サンプル - ～

第3回 ～ AIを乗っ取る攻撃 – 学習データ汚染 - ～

第4回 ～ AIのプライバシー侵害 – メンバーシップ推論 – ～

第5話 ～ AIの推論ロジックを改ざんする攻撃 – ノード注入 – ～

第６話 〜AIシステムへの侵入 – 機械学習フレームワークの悪用 -〜

第７話 〜 AIの身辺調査 – AIに対するOSINT – 〜

第８話 〜 セキュアなAIを開発するには？ – 国内外のガイドライン – 〜

Adversarial Robustness Toolbox（ART）超入門

第１回：敵対的サンプル -非標的型の回避攻撃-

第２回：敵対的サンプル -標的型の回避攻撃-

第３回：Adversarial Training -回避攻撃の対策-

第４回：Feature Collition Attack -学習データ汚染攻撃-

第５回：Activation Clustering -学習データ汚染攻撃の対策-

第６回：メンバーシップ推論 -抽出攻撃-

第７回：信頼スコアのフィルタリング -メンバーシップ推論の対策-

第1話～AIをとりまく環境とセキュリティ～

第2回～　AIを騙す攻撃 – 敵対的サンプル -　～

第3回～　AIを乗っ取る攻撃 – 学習データ汚染 -　～

第4回～　AIのプライバシー侵害 – メンバーシップ推論 –　～

第5話～ AIの推論ロジックを改ざんする攻撃 – ノード注入 – ～

第６話　〜AIシステムへの侵入 – 機械学習フレームワークの悪用 -〜

第７話　〜 AIの身辺調査 – AIに対するOSINT – 〜

第８話　〜セキュアなAIを開発するには？ – 国内外のガイドライン – 〜