AIセキュリティとは
AIセキュリティ（AI Security）とは、AI・機械学習システムを攻撃から守り、安全に運用するためのセキュリティ対策の総称です。また、AIを活用してサイバー脅威を検知・対応する技術も同様に指します。
AI特有のセキュリティリスク
敵対的攻撃（Adversarial Attack）：AIの画像認識を騙す微細なノイズを加えた入力。データポイズニング：学習データに悪意あるデータを混入させてモデルを汚染する。モデル盗用（Model Extraction）：AIのAPIへの大量クエリでモデルを逆工学する。プロンプトインジェクション：LLMへの悪意ある入力でシステムを誤作動させる。
生成AIのセキュリティリスク
ChatGPTなどの生成AIは社内機密情報の誤入力・ハルシネーションによる誤情報生成・AIが生成した偽情報（ディープフェイク）などの新たなリスクをもたらします。
AIを活用したセキュリティ
逆にAIはセキュリティ強化にも活用されています。AIによる異常検知・脅威インテリジェンス・フィッシングメール検出・マルウェア分析の自動化などで、従来のルールベース検知では困難な高度な脅威への対応が可能になっています。
