説明可能AIとは
説明可能AI（XAI：Explainable Artificial Intelligence）とは、AIが下した判断・予測の根拠を人間が理解できる形で説明できるAI技術・アプローチです。「なぜそのような結論になったか」をブラックボックスにしないことが目的です。
XAIが必要な理由
融資審査・採用・医療診断・刑事司法などの重要な意思決定にAIが使われる場合、「なぜ否決されたか」「なぜそう診断されたか」の説明責任が求められます。EU AI Actなどの規制でも、高リスクAIには説明可能性が要件となっています。
XAIの主な手法
LIME：局所的な近似モデルで個別予測の理由を説明する手法。SHAP：各特徴量が予測にどれだけ貢献したかを数値化する手法。Attention Visualization：Transformerモデルがどの部分に注目したかを可視化する手法が代表的です。
ビジネスへの影響
AIを意思決定に使う企業は「AIが言ったから」では説明責任を果たせません。XAI技術を活用してAIの判断根拠を確認・文書化するプロセスが、リスク管理とコンプライアンスの観点から重要になっています。
