執筆：弁護士 鈴木 景 （ AI・データ（個人情報等） チーム）
ローンチからわずか二か月でアクティブユーザー数が1億人を突破したという「ChatGPT」や画像生成系AI「midjourney」など、生成系AIと呼ばれるAIが広く一般的に利用されるようになってきました。
本稿では、このような生成系AIを企業が利用しようとする場合に押さえておくべき法律上の論点と対策について、紹介します。
※この記事は2023年5月時点のものになります。
１．生成系AIの登場と企業による活用
「生成系AI」とは、概要、大規模なデータからパターンを識別し、これを元にオリジナルのデータやコンテンツを生成するAIを総称する場合に用いられる用語です。
例えば、OpenAIが開発した「GPT」とは「Generative Pretrained Transformer」の略であり、OpenAIが開発した言語モデルの一つになります。言語モデルとは、一般的に、入力された言語に対して、確率的に次に来る言語を予測して出力するものを指す用語として使われています。
昨今、企業においても、この生成系AIを事業で活用するケースが増えてきましたが、企業における活用方法として大別すると、①生成系AIを組み込んだサービスを提供するモデルと②社内で業務効率化等のために、生成系AIを利用するモデルが考えられます。
① 生成系AIを組み込んだサービスを提供するモデル
生成系AIを組み込んだサービスを提供するモデルとしては、オンライン学習、自動応答サービス、チャットボット、顧客分析ツールなどに生成系AIを搭載することが考えられます。
例えば、ChatGPTを提供するOpenAIのサイトでは、語学学習ツールの導入事例としてDuolingo、顧客分析ツールの導入事例としてヤブル等が紹介されています。
② 社内で業務効率化等のために、生成系AIを利用するモデル
社内で業務効率化等のために、生成系AIを利用するモデルとしては、例えば、システム開発の場面においてエンジニアがその工程の一部において生成系AIを補助的に使用することもあるようです。また、会社が社内での情報共有ツールとして用いることもあり得ます。
先述のOpenAIのサイトによると、モルガンスタンレーが社内の情報共有のために、Stripeが顧客企業のビジネス分析のために生成系AIを導入しているようです。
２．法的論点
一般的に、生成系AIの仕組みは、以下の3つのプロセスに分けられます。
① データの学習
② ユーザーによるプロンプト（出力指示）の入力
③ ①で学習したデータをもとに、回答となる文章を生成し出力
法的課題を検討するにあたっても、この3つのプロセスに分けて検討することが有用です。本稿では、生成系AIを利用する際の法的論点について、特に②と③を取り上げて検討します。
(1) プロンプトの入力段階において留意するべき法的論点
プロンプトの入力段階において留意するべき法的論点としては、
① 個人情報保護法への抵触可能性
② 秘密保持契約等により課せられる守秘義務違反の可能性
③ 著作権侵害の可能性
が考えられます。
① 個人情報保護法への抵触可能性
例えばChatGPTについて、OpenAIのサイトによると、非API連携版（ウェブ版）では、ユーザーが入力したデータをモデルの学習に使うことがあるとされています。
プロンプトに個人情報が含まれていた場合、サービスプロバイダーに対する個人情報の第三者提供に該当する可能性も否定はできません。個人情報を第三者に対して提供するためには、原則として本人の同意が必要となりますので、本人の同意なくプロンプトに個人情報を含めてしまうと、個人情報保護法違反となる可能性が考えられます。
② 守秘義務違反の可能性
例えば、生成系AIに翻訳を指示した場合に、その指示のためのプロンプトに、特定の企業名が含まれていたり、または、企業内で秘密裏に進めていた案件に関する情報が含まれていたりするような場合、企業間で締結している秘密保持契約に違反したり、就業規則において定められている守秘義務条項に違反してしまう可能性が考えられます。
③ 著作権侵害の可能性
既存の文章について生成系AIを利用して要約を行う、といった方法も、生成系AIの利用方法として考えられるところですが、既存の著作物を入力した場合、入力行為は複製権侵害（著作権法21条）などに当たる可能性が考えられます。また、生成系AIを利用して、既存の著作物を改変する場合、翻案権の侵害や、同一性保持権の侵害となる可能性も否定はできません。
なお、例外的に、著作権法30条の4の要件を満たす場合には、但書の場合に該当しない限り侵害に当たらない、と考えられます。
すなわち、著作権法30条の4は「著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。」としており、同条第2号で「情報解析（多数の著作物その他の大量の情報から、当該情報を構成する言語、音、影像その他の要素に係る情報を抽出し、比較、分類その他の解析を行うことをいう。第四十七条の五第一項第二号において同じ。）の用に供する場合」を定めています。
本条が適用される場面としては、既存の著作物を利用して生成系AIにより生成される成果物の品質を向上させるため、生成系AIに既存の著作物を学習させる場面などが考えられます。
上記の著作権法30条の4では、「当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合」に、著作権侵害に該当しないと定められておりますので、ユーザーによるプロンプト入力が一律にこの条項の要件を満たすわけではなく、あくまで、同条の要件を満たす場合に限り、例外的に著作権侵害に該当しないと考えられる点は、注意が必要です。
また、同条では、但書において「著作権者の利益を不当に害することとなる場合は、この限りでない。」と規定されています。この点について、文化庁のガイドラインによると、「例えば、大量の情報を容易に情報解析に活用できる形で整理したデータベースの著作物が販売されている場合に、当該データベースを情報解析目的で複製等する行為は、当該データベースの販売に関する市場と衝突するものとして『著作権者の利益を不当に害することとなる場合』に該当するものと考えられる。」とされています。
具体的には事例判断になりますし、条文上は「不当に害する」と、抽象的に規定されているのみとなりますので、具体的にどのような行為がこれに該当するかは、今後の事例の蓄積を待つことになるところかと思います。そのため、仮に著作権法30条の4第2号に該当すると考えられる場合であっても、この但書に該当する可能性があるかどうか、慎重に検討する必要があるといえます。
(2) 生成・出力された成果物について留意するべき法的論点
生成系AIによって生成された成果物について留意するべき法的論点としては、
① その成果物が著作権を侵害するものではないか
② 生成系AIによって生成された成果物に、著作権が認められるか
といった論点が考えられます。
① 著作権の侵害性
生成系AIにより出力された成果物が既存の著作物に類似していた場合、複製権侵害や翻案権侵害等の著作権侵害が成立するのかが問題となります。
この点については、主に「依拠性」がどこまで認められるかが、大きなポイントになるかと考えられます。
すなわち、複製権侵害や翻案権侵害が認められるためには、既存の著作物に「依拠して」作られることが必要とされています。
生成系AIを利用して成果物を作成しようとする場合、生成系AIによる出力の背景には膨大なデータが存在しており、特定の著作物に「依拠して」作成されたと言えるかは、やや疑問符が残るところでもあります。
他方で、例えば入力者が、既存の著作物を具体的に記載したうえで、それと類似の成果物を生成する旨をプロンプトにより指示した場合には、特定の著作物への依拠性が認められ、類似性が認められる限り、著作権侵害となるものと考えられます。
なお、侵害行為が成立するとしても私的利用などの例外規定に該当する場合は、著作権侵害は成立しません。
② 出力された生成物の著作物該当性
では、生成系AIによって生成された成果物には、著作権が認められるのでしょうか？
言い換えれば、例えば、生成系AIを利用して一定の成果物を生成した場合に、プロンプトによって当該成果物を生成した人は、その成果物に対する著作権を取得すると言えるでしょうか？
この点について、著作権法によれば、「著作物」とは「思想又は感情を創作的に表現したもの」（2条1項1号）とされています。
AIは、思想又は感情を持たないので、生成系AIによる成果物には著作権が認められないと考えることができます。
しかしながら、生成系AIをはじめ、AIによって成果物を得ようとする場合、AIの思考過程はユーザーにとってブラックボックスであるため、ユーザーが脳内で想起し、又は想定する成果物をAIに出力させることは至難の業です。
それでもユーザーにおいて、自身が想起し又は想定する成果物をAIに出力させようとすれば、ユーザー自身でプロンプトを工夫するよりほかありません。つまり、生成系AIを利用して成果物を得る場合であっても、ユーザーのプロンプトに対する試行錯誤が介在する場合もあり、その試行錯誤にユーザーの創意工夫が認められるような場合には、当該成果物は、ユーザー自身が「思想又は感情」を、生成系AIによる生成を通じて「創作的に表現した」と言い得る場合があるのではないかと考えられます。
そのような場合には、生成系AIにより生成された成果物であっても、ユーザー自身に著作権が認められることもあり得るものと考えられます。
(3) その他の留意点
法的論点とは異なりますが、その他の留意点として、
① 成果物の不正確性・脆弱性
② 成果物による第三者の著作権以外の権利の侵害性
についても、留意する必要があります。
実際に生成系AIを利用された方であれば、すでに体験していらっしゃるのではないかと思いますが、生成系AIによって生成された成果物に、事実と異なる内容が記載されていたりと、不正確な情報が生成される、ということが起こります。
この点について、例えばOpenAIは公式サイトで「GPT-4には、社会的偏見、幻覚、敵対的プロンプトなど、対処しようとしている多くの既知の制限がまだあります。」と発表していますし、利用規約でも「サービスが中断されないこと、正確であること、エラーがないこと、またはコンテンツが安全であること、紛失または変更されないことを保証しません。」と免責規定を置いています。
企業において、生成系AIを利用するにあたっては、このような不正確さが含まれることを念頭に置いて利用する必要があります。
また、生成系AIによって、例えば社会的偏見をはらんだ文章が生成される可能性や、悪意あるプロンプトによって生成系AIが、ヘイトスピーチや攻撃的な文章を生成するなど、「突然暴れだす」可能性もゼロではなさそうです。
このような成果物が外部に公表されてしまうと、それにより第三者の権利が侵害されたとして、提供事業者やユーザーに対し、不法行為（民法709条以下）に基づく損害賠償請求がされる可能性も否定はできません。
企業において、生成系AIの成果物を対外的に公表する場合には、このような点についても十分に留意する必要があると言えます。
４．法的論点を踏まえ、事業者が取るべき対策
以上の法的論点を踏まえ、事業者が取るべき対策の概要について、以下検討します。
(1) 生成系AIを組み込んだサービスを提供するモデル
生成系AIを組み込んだサービスの提供者としては、まずは、個人情報保護の観点から、入力された個人情報の利用目的や第三者提供に関し、プライバシーポリシー等で定めておくことが必要になります。その前提として、自社が提供するサービスにおいて、どのようなデータが、どこに移転するのか（またはしないのか）を整理しておくことは非常に重要と言えます。
また、第三者の著作権等の権利を侵害するような利用方法について制限することができるよう、利用規約における禁止事項に記載したり、禁止事項に違反するユーザーについて利用を制限できるような仕立てにしておくことも必要かと思料します。
加えて、このサービスを利用して得られた成果物についての知的財産権の帰属、サービス提供者側での利用可否や、ユーザーによる商用利用の可否についても、併せて利用規約に記載しておいた方がよいでしょう。
併せて、情報の正確性や第三者の権利の非侵害性についても、免責規定をおいておく必要があると考えます（この点は、生成系AIに内在する制約条件ですので、この点について企業側の免責を規定しておくことは、不合理なものとは言えないと考えられます。）。
(2) 社内で業務効率化等のために、生成系AIを利用するモデル
この場合、特に個人情報や秘密情報の漏えい・第三者提供に留意する必要があります。
まず、自社が利用しようとする生成系AIでは、どのような情報がどのように利用されるのかを把握したうえで、プロンプトに個人情報を利用することが、自社で定めるプライバシーポリシー等によって特定された利用目的の範囲内にあるのかどうか、個人情報の第三者提供に該当しないか、該当する場合には同意を取得できているかどうかを把握する必要があるでしょう。
また、前記のとおり、特定の著作物を示したプロンプトにより指示を行った場合、その生成物は著作権侵害の可能性がありますので、使い方についても制限を設ける必要があるかと考えられます。
以上のような観点を踏まえ、社内で生成系AIを利用するための外縁を、社内ガイドラインなどにより定め、かつ、その内容を社内で啓蒙することが必要であると考えられます。
加えて、成果物に対する知的財産権の帰属について、就業規則上で定めがされているかどうかも、併せて確認しておく必要があるものと思料します。
５．最後に
本稿では、主に生成系AIを利用するにあたって留意するべき法的論点について紹介しました。
生成系AIの提供は始まったばかりであり、利用に伴うリスクも可能性も未知数です。今後利用が促進されることによって、本稿で言及する法的論点以外の論点が浮上することも考えられますし、生成系AIの利用に関する法的判断も、今後蓄積していくことが予想されます。
引き続き、生成系AIに関する動向については注目していきますが、まずは本稿が、生成系AIの導入・利用を検討されている事業者様の一助となれば、大変幸いです。
