用語集

AI ガバナンス用語集

AI ガバナンス、規制、リスク管理における重要用語のわかりやすい定義。

情報提供のみ。 情報提供のみを目的としています。提供される定義は一般的な説明であり、法律的、規制的、または専門的なアドバイスを構成するものではありません。組織固有のガイダンスについては資格のある専門家にご相談ください。

説明責任（AI）

特定の個人または機関がAIシステムの決定と結果に責任を負うという原則 - 決定を説明し、被害の結果を受け入れ、是正措置を実施する義務を含む。

AIシステムが設計、学習データ、または展開コンテキストを通じて、人種、性別、年齢、障害などの保護された特性に基づいて個人を不当に不利にする出力を生成するとき。

AIシステムアクティビティの時系列記録, 入力、出力、決定、および変更, 事後レビュー、コンプライアンス確認、および説明責任を可能にするために維持される。

特定のグループの不公平な扱いをもたらすAI出力の体系的なエラー。ソースには偏った学習データ、欠陥のあるモデル設計、および不整合な最適化目標が含まれる。

EU AI法の下で、市場投入前に高リスクAIシステムが必須要件に対して評価されるプロセス。開発者（自己評価）または指定機関（第三者評価）によって実施される可能性がある。

データセットの文書化された履歴 - その起源、収集方法、処理手順、および保管の連鎖。データ品質がモデルの信頼性と公平性に直接影響するため、AIガバナンスにとって重要。

規則（EU）2024/1689、世界初の包括的な拘束力のあるAIの法的枠組み。禁止された使用、高リスク義務、および一般要件を伴うリスクベースの分類システムを確立。2026年8月から完全施行。

AIシステムの出力が人間によって理解・解釈できる度合い。完全な透明性（ルールベースシステム）からブラックボックスモデルの事後説明方法まで。

生成AIシステムが事実として誤り、捏造され、または内部的に矛盾する出力を生成するが、明らかな確信を持って提示されるとき。知識集約型エンタープライズアプリケーションにおける主要なリスク。

EU AI法の下で、権利や安全に重大なリスクをもたらす特定のセクター（健康、教育、雇用、重要インフラ、法執行など）のAIシステム。文書化、人間の監督、適合性評価を含む必須要件に従う。

資格のある人間がAIシステムの動作を監視し、介入し、必要に応じて停止させる能力。EU AI法の下で高リスクAIに必要であり、ガバナンスの最低基準としてますます期待されている。

ISO/IEC 42001:2023 - AIマネジメントシステムの国際標準。組織が責任あるAIガバナンスを確立、実施、維持、継続的に改善するための枠組みを提供する。

実世界のデータ分布が学習条件から離れるにつれて、時間とともにAIモデルのパフォーマンスが低下すること。信頼性の高い出力を維持するために継続的なモニタリングと定期的な再学習が必要。

国立標準技術研究所AIリスク管理フレームワーク（2023）。4つの機能にわたってAIリスクを識別、評価、管理するための自発的な米国フレームワーク：Govern、Map、Measure、Manage。

組織の知識、承認、または監督なしに従業員がAIツールを使用すること。データセキュリティ、知的財産、およびコンプライアンスリスクを生み出す - 特にコンシューマーAIツールで。

AIモデルの学習に使用されるデータセット。品質、代表性、プロバナンスがモデルの動作、パフォーマンス、および公平性のプロパティを直接決定する。