AI原則実践のためのガバナンス・ガイドライン ver. 1.0 について

経済産業省は2021年7月9日、「AI原則の実践の在り方に関する検討会」において、人間中心のAI社会原則（平成31年3月29日、統合イノベーション戦略推進会議決定）を尊重する際に実践すべきことを整理した「AI原則実践のためのガバナンス・ガイドライン ver. 1.0」を策定し、7月9日にパブリックコメントを開始しました。

経済産業省は、AI社会原則の実装に向けて、国内外の動向も見据えつつ、我が国の産業競争力の強化と、AIの社会受容の向上に資する規制、標準化、ガイドライン、監査等、我が国のAIガバナンスの在り方を検討するために、「AI社会実装アーキテクチャー検討会」を開催しています。

これまで、国内外のAI原則やルール形成の動向を構造的に明らかにするとともに、人間中心のAI社会原則の実装のための中間的なガイドラインの作成を含む我が国の在るべきAIガバナンスの全体像を提示する「我が国のAIガバナンスの在り方 ver. 1.0（AI社会実装アーキテクチャー検討会 中間報告書）」を2021年1月15日に公表しています。

今回は、AIシステム開発者だけではなくAIシステム運用者にも実務的な指針を提供すべく、「AI原則実践のためのガバナンス・ガイドライン ver. 1.0」を策定しています。

本ガイドラインは、法的拘束力のない分野横断的なガイドライン（通称：AIガバナンス・ガイドライン）と位置づけています。

本ガイドラインの狙いとしては、AIの社会実装の促進に必要なAI原則の実践を支援すべく、事業者が実施すべき行動目標を提示し、それぞれの行動目標に対応する仮想的な実践例とAI原則からの乖離評価例を参考情報として例示しています。

また、AIシステムの開発・運用に関わる事業者等の取引等で広く参照されることや、AI原則の実践に関するステークホルダーの共通認識の形成を通じて、各社の自主的な取り組みを後押しするものとしています。

AIガバナンス・ガイドラインが対象とする主体と客体では、

AIシステム：OECDの定義を参考にしつつ、機械学習にフォーカスした定義を採用。ただし、機械学習よりも広義のAIシステムでも参照されることが望ましいとし、AI事業者：AIシステム開発者、運用者、データ事業者に区分しています。

アジャイル・ガバナンスの採用では、マネジメント体制の整備とリスク管理のための行動目標をアジャイル・ガバナンスの枠組みに沿って提示しています。

アジャイル・ガバナンスの採用
出典：AI原則の実践の在り方に関する検討会 2021.7

行動目標について、それぞれ整理しています。

行動目標の概要（環境・リスク分析）

ゴール設定のために、AIシステムがもたらしうる正負のインパクト、AIシステムの開発や運用に関する社会的受容、AI習熟度（AIシステムの開発・運用時に求められる準備がどれだけできているのか）を理解すべき

行動目標の概要（AIガバナンス・ゴール）

システムデザインの羅針盤となる、AIガバナンス・ゴールを設定するか否かを検討し、負のインパクトが軽微であることを理由にゴールを設定しない場合には、その理由等をステークホルダーに説明できるようにしておくべき

行動目標の概要（システムデザイン）

AIガバナンス・ゴールを達成するために、ゴールからの乖離の評価と乖離への対応、リテラシー向上、事業者間等協力によるAIマネジメントの強化、インシデントに関わるAIシステム利用者の負担軽減に取り組むべき

行動目標の概要（運用）

設定したゴールとシステムを継続的に評価・再分析するため、AIマネジメントシステム及び個々のAIシステムの運用状況について説明可能な状態を確保し、これらの情報を非財務情報に位置づけ積極的に開示することを検討すべきであり、開示しない場合には、その理由等を説明できるようにしておくべきである。

行動目標の概要（評価、環境・リスク再分析）

システムの設計や運用から独立した者に、その設計や運用の妥当性を評価させるべき。上述の運用状況に関する情報を用いながら社内で妥当性の評価を実施するとともに、株主だけではなく、マルチステークホルダーに意見を求めることを検討すべき。また、環境・リスクの再分析を適時に実施すべきである。

アジャイル・ガバナンスの実践では、AIガバナンス・ガイドラインをフォーカルポイントとして、ステークホルダーの関与の下で、AIガバナンス及び本ガイドラインの在り方の検討を継続し、必要に応じて改訂を行うことが望ましい、としています。

出典：AI原則の実践の在り方に関する検討会 2021.7