＜引用元＞
総務省のホームページ
http://www.soumu.go.jp/menu_news/s-news/01iicp01_02000067.html
AIネットワーク社会推進会議 報告書2017
★部分は，筆者のコメント
第２章 国際的な議論のためのＡＩ開発ガイドライン案②（ＡＩ開発原則案の解説）
開発原則
開発原則の解説（留意することが期待される事項等）
① 連携の原則
開発者は、AIシステムの相互接続性と相互運用性に留意する。
・相互接続性と相互運用性を確保するため、①有効な関連情報の共有に向けた協力、②国際的な標準や規格への準拠、③データ形式の標準化及びインターフェイスやプロトコルのオープン化への対応、④標準必須特許等のライセンス契約及びその条件についてのオープン・公平な取扱い、などに留意することが望ましい。
★ＡＩ分野に限らない内容
② 透明性の原則-
開発者は、AIシステムの入出力の検証可能性及び判断結果の説明可能性に留意する。
・採用する技術の特性や用途に照らし合理的な範囲で、AIシステムの入出力の検証可能性及び判断結果の説明可能性に留意することが望ましい。
（※アルゴリズム、ソースコード、学習データの開示を想定するものではない。）
★プログラミングベースの一般の情報システムような要求仕様定義に対応した検証とは異なり，判断のプロセスに関して論理的に明確な説明はできないことを利用者に伝えることが重要．
③ 制御可能性の原則
開発者は、AIシステムの制御可能性に留意する。
・AIシステムの制御可能性について、あらかじめ検証及び妥当性の確認をするよう努めるとともに、採用する技術の特性に照らし合理的な可能な範囲において、人間や信頼できる他のAIによる監督・対処の実効性に留意することが望ましい。
★上記②と同様の理由により，好ましくない判断結果が生じる場合に，一般の情報システムようなデバッグはできないことを利用者に伝えることが重要．
④ 安全の原則
開発者は、AIシステムがアクチュエータ等を通じて利用者及び第三者の生命・身体・財産に危害を及ぼす
ことがないよう配慮する。
・AIシステムの安全性について、あらかじめ検証及び妥当性の確認をするよう努めるとともに、AIシステムの本質安全や機能安全に資するよう、開発の過程を通じて、採用する技術との特性に照らし可能な範囲で措置を講ずるよう努めることが望ましい。
・利用者及び第三者の生命・身体・財産の安全に関する判断を行うAIシステムについては、利用者等ステークホルダに対して設計の趣旨などを説明するよう努めることが望ましい。
★「設計の趣旨」ではなく，利用上の注意を具体的に示すべき．
⑤ セキュリティの原則
開発者は、AIシステムのセキュリティに留意する。
・AIシステムのセキュリティについて、あらかじめ検証及び妥当性の確認をするよう努めるとともに、開発の過程を通じて、採用する技術の特性に照らし可能な範囲で対策を講ずるよう努めることが望ましい（セキュリティ・バイ・デザイン）。
★ＡＩ分野に限らない内容
⑥ プライバシーの原則
開発者は、AIシステムにより利用者及び第三者のプライバシーが侵害されないよう配慮する。
・AIシステムのプライバシー侵害のリスクについて、あらかじめ影響評価を行うよう努めるとともに、開発の過程を通じて、採用する技術の特性に照らし可能な範囲で措置を講ずるよう努めることが望ましい（プライバシー・バイ・デザイン）。
★ＡＩ分野に限らない内容
⑦ 倫理の原則
開発者は、AIシステムの開発において、人間の尊厳と個人の自律を尊重する。
・AIシステムの学習データに含まれる偏見などに起因して不当な差別が生じないよう、採用する技術の特性に照らし可能な範囲で所要の措置を講ずるよう努めることが望ましい。
・国際人権法や国際人道法を踏まえ、AIシステムが人間性の価値を不当に毀損することがないよう留意することが望ましい。
★「学習データに含まれる偏見」に対する「所要の措置」とは？
特に，リリース後に利用者と対話しながら学習するＡＩシステムについて，開発者がとれる措置とは？
⑧ 利用者支援の原則
開発者は、AIシステムが利用者を支援し、利用者に選択の機会を適切に提供することが可能となるよう配
慮する。
・AIシステムの利用者のために、①利用者の判断に資する情報を適時適切に提供し、かつ利用者にとって操作しやすいインターフェースが利用可能となるよう配慮、②利用者に選択の機会を適時適切に提供する機能が利用可能となるよう配慮、③社会的弱者の利用を容易にするための取組、に留意することが望ましい。
★ＡＩ分野に限らない内容
⑨ アカウンタビリティの原則
開発者は、利用者を含むステークホルダに対しアカウンタビリティを果たすよう努める。
・開発原則①～⑧の趣旨に鑑み、利用者等に対しＡＩシステムの技術的特性について情報提供や説明を行うほか、ステークホルダとの対話を通じた意見聴取や、ステークホルダの積極的な関与を得るよう努めることが望ましい。
・AIシステムによりサービスを提供するプロバイダなどとの情報共有・協力に努めることが望ましい。
★ＡＩ分野に限らない内容
総務省のホームページ
http://www.soumu.go.jp/menu_news/s-news/01iicp01_02000067.html
AIネットワーク社会推進会議 報告書2017
開発者は、AIシステムの相互接続性と相互運用性に留意する。
★ＡＩ分野に限らない内容
開発者は、AIシステムの入出力の検証可能性及び判断結果の説明可能性に留意する。
（※アルゴリズム、ソースコード、学習データの開示を想定するものではない。）
★プログラミングベースの一般の情報システムような要求仕様定義に対応した検証とは異なり，判断のプロセスに関して論理的に明確な説明はできないことを利用者に伝えることが重要．
開発者は、AIシステムの制御可能性に留意する。
★上記②と同様の理由により，好ましくない判断結果が生じる場合に，一般の情報システムようなデバッグはできないことを利用者に伝えることが重要．
開発者は、AIシステムがアクチュエータ等を通じて利用者及び第三者の生命・身体・財産に危害を及ぼす
ことがないよう配慮する。
・利用者及び第三者の生命・身体・財産の安全に関する判断を行うAIシステムについては、利用者等ステークホルダに対して設計の趣旨などを説明するよう努めることが望ましい。
★「設計の趣旨」ではなく，利用上の注意を具体的に示すべき．
開発者は、AIシステムのセキュリティに留意する。
★ＡＩ分野に限らない内容
開発者は、AIシステムにより利用者及び第三者のプライバシーが侵害されないよう配慮する。
★ＡＩ分野に限らない内容
開発者は、AIシステムの開発において、人間の尊厳と個人の自律を尊重する。
・国際人権法や国際人道法を踏まえ、AIシステムが人間性の価値を不当に毀損することがないよう留意することが望ましい。
★「学習データに含まれる偏見」に対する「所要の措置」とは？
特に，リリース後に利用者と対話しながら学習するＡＩシステムについて，開発者がとれる措置とは？
開発者は、AIシステムが利用者を支援し、利用者に選択の機会を適切に提供することが可能となるよう配
慮する。
★ＡＩ分野に限らない内容
開発者は、利用者を含むステークホルダに対しアカウンタビリティを果たすよう努める。
・AIシステムによりサービスを提供するプロバイダなどとの情報共有・協力に努めることが望ましい。
★ＡＩ分野に限らない内容