ブリーフィング文書：生成AIに関する主要なテーマと重要事項

1. 全体概要

本ブリーフィング文書は、以下の資料に基づき、生成AIの開発、提供、利用における法的、倫理的、技術的な主要なテーマと重要事項をまとめたものです。

• 文化庁資料：生成AIと著作権に関する検討事項
• 経済産業省資料：コンテンツ制作における生成AIの利活用ガイドブック
• 総務省資料：AIガバナンス・ガイドライン

これらの資料は、生成AIの進化と普及に伴い、コンテンツ産業をはじめとする様々な分野で生成AIが活用される一方で、著作権侵害、プライバシー侵害、バイアス、セキュリティリスクなどの課題が生じている現状を踏まえ、関係者（AI開発者、AI提供者、AI利用者）が留意すべき点や対応策を提示しています。

2. 主要テーマと重要事項

2.1. 著作権

• 類似性と依拠性: 自身の作品に類似したAI生成物が生成された場合、著作権侵害を主張するためには、既存の著作物とAI生成物との間に「創作的表現」の共通性（類似性）と、AI生成物が既存の著作物に「依拠」していることの立証が必要です。
• 文化庁資料：「既存の著作物と「創作的表現」が共通しているAI生成物を発見した場合、権利者としては、著作権侵害に基づく権利行使ができる可能性があります」
• AI学習と著作権法30条の4: AI学習のための著作物の複製は、原則として著作権者の許諾が必要ですが、著作権法30条の4により、情報解析を目的とする「非享受目的」の場合には、権利者の許諾なく利用可能です。ただし、「享受目的」が併存する場合や、「著作権者の利益を不当に害する」場合には適用されません。
• 経産省資料：「他人の著作物を学習用データとして利用する行為 は、情報解析のために用いる場合など「非享受目 的」の著作物の利用であれば、著作権法30条の4 本文により、原則として、著作権者の許諾なく適法 に行うことができます」
• 生成・利用段階の留意点: AI生成物（または編集・加工したもの）が他人の著作物と同一・類似である場合、著作権侵害となる可能性があります。プロンプト入力に著作物を利用する場合も同様です。
• 経産省資料：「A I生成物（やそれを編集・加工したもの）が他人の著作物などと同 一・類似である場合は、著作権侵害などの可能性があるため、留意が 必要です」

2.2. 知的財産法制

• 生成AIと知的財産権: 生成AIの利用にあたっては、著作権法、特許法、意匠法、商標法、不正競争防止法、肖像権、パブリシティ権など、様々な法律や権利・利益が関係していることを理解する必要があります。
• 経産省資料：「生成AIを利用するにあたっては、それぞ れの利用場面でどのような法律や権利・ 利益が関係しているか、また関係する法 律がどのような目的のもとに何を保護し ようとしているかを把握しましょう」
• 登録意匠・商標: AI生成物としてのデザインやロゴが、登録意匠・登録商標と同一・類似の場合、その利用は、意匠権・商標権の侵害となる可能性があります。
• 経産省資料：「AI生成物（やそれを編集・加工して制作したもの）としてのデザインやロゴが、登録意匠・登録商標と同一・類似の場合、そ の利用は、意匠権・商標権の侵害となる可能性があります」
• 肖像権・パブリシティ権: 生成AIを用いて生成した人物の肖像（または編集・加工したもの）を利用する行為は、肖像権やパブリシティ権の侵害となる可能性があります。
• 経産省資料：「生成AIを用いて生成した、人物の肖像（やそれを編集・加工して制作したもの）を利用する行為は、従来の判例・裁判例から すると、肖像権の侵害となる可能性があります」

2.3. AIガバナンス

• AIガバナンスの重要性: AIの活用による便益を求める中で、AIが社会にリスクをもたらす可能性を鑑み、AIガバナンスの構築が重要です。総務省のガイドラインでは、AI開発者、AI提供者、AI利用者それぞれの役割に応じた指針が示されています。
• 共通の指針: AIの活用にあたり、人間中心、安全性、公平性、プライバシー保護、セキュリティ確保、透明性、アカウンタビリティ、教育・リテラシー、公正競争確保、イノベーションの10個の「共通の指針」が重要です。
• 高度なAIシステム: 高度なAIシステムに関係する事業者は、広島AIプロセスを経て策定された国際指針を踏まえ、「共通の指針」に加え、国際的な技術規格の開発推進、適切なデータインプット対策の実施、高度なAIシステムの信頼でき責任ある利用の促進などが求められます。
• 総務省資料：「⾼度な AI システムに関係する事業者は、広島 AI プロセスを経て策定された「全ての AI 関係者向けの広島 プロセス国際指針」及びその基礎となる「⾼度な AI システムを開発する組織向けの広島プロセス国際指針」を 踏まえ、「共通の指針」に加え、以下を遵守すべきである」

2.4. 各主体の役割と留意点

• AI開発者: 適切なデータの学習、バイアスへの配慮、プライバシー保護、セキュリティ対策、透明性の確保、アカウンタビリティの向上などが求められます。また、AI提供者に対し、AIの予測性能や出力の品質が変動する可能性、リスクなどの情報提供を行う必要があります。
• AI提供者: AI開発者が意図している範囲でAIシステム・サービスを実装し、正常稼働及び適切な運用を継続することが重要です。AI利用者に対し、AIシステムの提供及び運用をサポートし、ステークホルダーの権利を侵害せず、社会に不利益を生じさせないように留意する必要があります。
• AI利用者: AI提供者から提供された情報に基づき、AIシステム・サービスを適切に利用し、著しく公平性を欠くことがないよう、公平性が担保されたデータの入力を心がける必要があります。また、AIの出力結果を事業判断に活用した際は、その結果を関連するステークホルダーに合理的な範囲で情報提供を行うことが求められます。

3. 対応策の例

• 著作権侵害:既存の著作物と同一・類似の表現が出力されないように、プロンプトを工夫する。
• 自らが著作権を有する著作物をプロンプトとして入力する。
• 利用を検討している生成AIの学習データの内容や、知的財産権の保護のためのフィルタリング措置を確認する。
• バイアス:学習データにバイアスが含まれないように、データの質を管理する。
• AIモデルのアルゴリズム等に含まれるバイアスに配慮する。
• AIの出力結果が公平性を欠くことがないよう、人間の判断を介在させる。
• プライバシー:個人情報の不適切な入力を避ける。
• プライバシー保護のための仕組みを導入する。
• 個人データを含むプロンプトの入力に際しては、同意を得る。
• セキュリティ:AIシステム・サービスに対するセキュリティ対策を実施する。
• AIシステム・サービスに機密情報等を不適切に入力しないように注意する。
• 脆弱性に対応するための措置を検討する。
• その他:AIガバナンス体制を構築する。
• AIリテラシーを向上させるための教育・リスキリングを実施する。
• ステークホルダーとのコミュニケーションを強化する。
• インシデント発生時の対応計画を策定する。

4. 結論

生成AIの活用は、コンテンツ産業をはじめとする様々な分野において、業務効率化や新たな創造性の発見につながる可能性を秘めています。しかし、著作権侵害、プライバシー侵害、バイアス、セキュリティリスクなどの課題も存在します。関係者は、これらの課題を理解し、適切な対応策を講じることで、生成AIの恩恵を最大限に享受し、リスクを最小限に抑えることが重要です。

免責事項

本ブリーフィング文書は、提供された資料に基づき作成されたものであり、法的助言を構成するものではありません。具体的な法的判断や対応策については、必ず専門家にご相談ください。

以上

生成AIに関するイベントタイムライン

• 2023年4月: 総務省と経済産業省が「DX時代における企業のプライバシーガバナンスガイドブック ver1.3」を公開。
• 2023年6月: 個人情報保護委員会が「生成AIサービスの利用に関する注意喚起等」を発表。
• 2023年11月: 総務省が「デジタル空間における情報流通に関する現状と課題」を発表。
• 2023年12月: 国立研究開発法人産業技術総合研究所が「機械学習品質マネジメントガイドライン 第4版」を発表。
• 2023年 – 2024年: K&KデザインとタジクによるAI×アニメプロジェクトで、ラフデザインからキャラクターを自動生成する取り組みが行われる。
• 2024年6月時点: 経済産業省がコンテンツ制作に携わる産業界向けに生成AIの利活用ケースと留意点・対応策を紹介するガイドブックを公開。
• 時期不明: 著作権法平成30年改正（平成31年1月1日施行）で著作権法30条の4が規定され、AIの開発・学習における著作物の利用に関する権利制限が定められる。
• 時期不明: 広島AIプロセスを経て「全てのAI関係者向けの広島プロセス国際指針」及びその基礎となる「高度なAIシステムを開発する組織向けの広島プロセス国際指針」が策定される。

主要人物リスト

• 内山 隆: 青山学院大学総合文化政策学部総合文化政策学科教授。（経済産業省のAIガイドブック作成に関与）
• 奥邨 弘司: 慶應義塾大学大学院法務研究科教授。（経済産業省のAIガイドブック作成に関与）
• 佐渡島 庸平: 株式会社コルク代表取締役CEO。（経済産業省のAIガイドブック作成に関与）
• 澤田 将史: 高樹町法律事務所弁護士。（経済産業省のAIガイドブック作成に関与）
• 福田 昌昭: 株式会社Preferred Networks コンシューマープロダクト担当VP。（経済産業省のAIガイドブック作成に関与）
• FROGMAN: 株式会社DLE 執行役員CCO。（経済産業省のAIガイドブック作成に関与）
• 三宅 陽一郎: 株式会社スクウェア・エニックス AI部 ジェネラル・マネージャー。（経済産業省のAIガイドブック作成に関与）
• 毛利 真崇: 株式会社サイバーエージェント AI事業本部 AI Creative Div. 統括。（経済産業省のAIガイドブック作成に関与）
• 望月 逸平: 株式会社アマナイメージズ 代表取締役CEO、日本画像生成AIコンソーシアム 代表。（経済産業省のAIガイドブック作成に関与）
• 森川 幸人: モリカトロン株式会社 代表取締役 モリカトロンAI研究所所長。（経済産業省のAIガイドブック作成に関与）
• 川上 博: 株式会社K&Kデザイン 取締役。（経済産業省のAIガイドブック作成に関与）
• 吉田くん: (AIアバター) 音声合成技術によりテキストを入力すると吉田くんの声と口調で会話が可能。
• 文化庁 著作権課: (団体) 著作権に関する政策を担当。
• 内閣府 知的財産戦略推進事務局: (団体) 知的財産戦略を推進。
• 経済産業省 商務情報政策局 情報経済課: (団体) 情報経済に関する政策を担当。
• 経済産業省 商務情報政策局 情報産業課 情報処理基盤産業室: (団体) 情報処理基盤産業に関する政策を担当。

解説

• 著作権法との関係:
• AI学習における著作物の利用は、著作権法30条の4によって一定の範囲で権利制限されていますが、「享受目的」が併存する場合や「著作権者の利益を不当に害する」場合は権利侵害となる可能性があります。
• AI生成物が既存の著作物と同一・類似であり、依拠性がある場合は著作権侵害となる可能性があります。
• 生成AIの利用場面:
• コンテンツ制作、ゲーム・アニメ・広告制作など様々な分野で利用されています。
• 留意点として、AI生成物が他人の著作物と同一・類似である場合や、プロンプト入力に著作物を利用する場合の権利侵害の可能性、制作物が著作物性を有するかなどがあります。
• AIガバナンス:
• AI開発者、提供者、利用者それぞれに対する指針が示されています。
• 人間の尊厳、安全性、公平性、プライバシー保護、セキュリティ確保、透明性、アカウンタビリティ、教育・リテラシー、公正競争確保、イノベーションが重要な要素として挙げられています。
• リスク管理:
• バイアスのある結果や差別的な結果の出力、偽情報、不適切な個人情報の取り扱い、機密データの漏洩、AIシステムの悪用など、様々なリスクが指摘されています。

このタイムラインと人物リストが、生成AIに関する日本の動向を理解する上で役立つことを願っています。

生成AIに関する総合学習ガイド

クイズ (全10問)

1. 生成AIの学習データに著作物を利用する場合、著作権法第30条の4が適用されるための要件を2つ述べてください。
2. AI生成物が既存の著作物と類似していると判断されるための2つの要素を説明してください。
3. AI開発者、AI提供者、AI利用者の3つの主体における、AIガバナンスにおけるそれぞれの役割を簡単に説明してください。
4. 著作権法における「アイデア」と「創作的表現」の違いについて説明してください。
5. AI学習に用いられるデータにバイアスが含まれることによって生じる可能性のある問題点を1つ述べてください。
6. AI開発者がAI提供者に対して提供すべき情報として重要なものを2つ挙げてください。
7. AI利用者として、AI生成物の出力結果を事業判断に活用する際に留意すべき点は何ですか？
8. 総務省のAIガバナンス原則における「人間中心」の原則について、具体例を交えて説明してください。
9. AI開発者、AI提供者、AI利用者における、インシデント発生時に必要な体制整備の要素をそれぞれ1つずつ挙げてください。
10. 肖像の持つ顧客吸引力を排他的に利用する権利とはどのような権利ですか？

クイズ解答 (Answer Key)

1. 著作権法第30条の4が適用されるためには、情報解析のためなど「非享受目的」のみに利用することと、「著作権者の利益を不当に害することとなる場合」に該当するような利用をしないことが必要です。
2. AI生成物が既存の著作物と類似していると判断されるためには、①他人の既存の著作物と同一・類似であること（類似性）、②その他人の著作物に依拠していること（依拠性）の2つの要素が必要です。
3. AI開発者はAIシステムを開発し、AI提供者はそのシステムに付加価値を加えてサービスとして提供し、AI利用者はそのサービスを利用して業務効率化などを図ります。
4. 「アイデア」は著作権で保護されませんが、「創作的表現」は著作物として保護されます。アイデアは抽象的な概念であり、創作的表現はそのアイデアを具体的に表現したものです。
5. 学習データにバイアスが含まれていると、AIの出力結果が特定のグループに対して不公平または差別的なものになる可能性があります。
6. AI提供者に対しては、AIには活用開始後に予測性能または出力の品質が大きく変動する可能性がある旨、想定する精度に達しないこともある旨などの情報を提供する必要があります。
7. AI生成物の出力結果を事業判断に活用する際には、その結果が著しく公平性を欠くことがないよう、公平性が担保されたデータの入力を心がけ、プロンプトに含まれるバイアスに留意する必要があります。
8. AIガバナンスにおける「人間中心」の原則とは、AIの活用において、人間の尊厳及び個人の自律を尊重し、AIによる意思決定が人間の感情や判断を不当に操作しないように配慮することです。例：AIの意思決定プロセスに人間が介在する仕組みを設ける。
9. AI開発者は、開発プロセスにおける記録を残すことが重要です。AI提供者は、様々な状況下でAIシステムがパフォーマンスレベルを維持できるように検討することが重要です。AI利用者は、AI提供者が定めた利用上の留意点を遵守することが重要です。
10. 肖像の持つ顧客吸引力を排他的に利用する権利とはパブリシティ権のことです。

Essay Format Questions

1. 生成AIの学習における著作権侵害のリスクと、それを軽減するための具体的な対策について、詳細に論じてください。特に、著作権法第30条の4の解釈と適用に焦点を当ててください。
2. AI開発者、AI提供者、AI利用者のそれぞれの立場から、AIガバナンスにおける倫理的責任について論じてください。それぞれの主体がどのように連携し、倫理的な問題に対処すべきかを具体的に提案してください。
3. 生成AIの利用がコンテンツ産業に与える影響について、著作権侵害、表現の自由、経済的利益のバランスを考慮しながら論じてください。
4. 総務省のAIガバナンス原則を踏まえ、企業がAIを導入・利用する際に考慮すべきリスクと、それらを管理するための具体的な戦略について詳細に説明してください。
5. AIインシデントが発生した場合、AI開発者、AI提供者、AI利用者の間でどのように責任を分担し、連携して対応すべきか、具体的な事例を想定して論じてください。

Glossary of Key Terms

• 生成AI (Generative AI): テキスト、画像、音楽など、新しいコンテンツを生成できるAI技術。
• 著作権 (Copyright): 著作物を保護する法律上の権利。著作物の複製、翻案、公衆送信などを制限する。
• 依拠性 (Reliance): AI生成物が、既存の著作物を参考にして作成されたことを示す要素。
• 類似性 (Similarity): AI生成物が、既存の著作物と表現において類似していることを示す要素。
• 著作権法第30条の4 (Article 30-4 of the Copyright Act): AI学習のための著作物の利用に関する権利制限規定。一定の要件を満たす場合に、著作権者の許諾なく著作物の複製などが可能となる。
• 非享受目的 (Non-enjoyment Purpose): 著作物に表現された思想又は感情を享受することを目的としない利用行為。情報解析などが該当する。
• 享受目的 (Enjoyment Purpose): 著作物の視聴等を通じて、視聴者等の知的・精神的欲求を満たすという効用を得ること。
• AI開発者 (AI Developer): AIシステムを開発する主体。
• AI提供者 (AI Provider): AI開発者が開発したAIシステムに付加価値を加えて、AIシステム・サービスとして提供する主体。
• AI利用者 (AI User): AI提供者から提供されたAIシステム・サービスを利用する主体。
• AIガバナンス (AI Governance): AIの開発、提供、利用に関する倫理的、法的、社会的な側面を管理するための枠組み。
• プロンプト (Prompt): 生成AIに対する指示や入力。
• バイアス (Bias): 学習データやアルゴリズムに含まれる偏り。AIの出力結果に不公平や差別を生じさせる可能性がある。
• アカウンタビリティ (Accountability): AIシステムに関する意思決定や行動について、説明責任を果たすこと。
• パブリシティ権 (Publicity Rights): 肖像等が持つ顧客吸引力を排他的に利用する権利。
• インシデント (Incident): AIシステムに関連して発生する、予期せぬ事故や問題。
• ハルシネーション (Hallucination): 生成AIが事実に基づかない情報を生成すること。