１　生成ＡＩとは何か？

　生成ＡＩとは、学習した大量のデータに含まれる情報パターンをもとに、文章や画像、音声などの新しいコンテンツを自動的に作り出す人工知能（Artificial Intelligence）システムのことです。
　現在、生成ＡＩを利用した文書や動画などの自動作成システムとして、OpenAI社のChatGPTやSora、Microsoft社のCopilot、Google社のGemini、Runway社のGen-2など、様々なサービスが展開されています。
　生成ＡＩは、利用の仕方次第では日々の生活や業務を便利にしてくれる情報ツールですが、使い方を間違えてしまうと、重要な情報の流出につながったり、他人の権利を侵害してしまったりする危険があります。
　そこで、今回の弁護士コラムでは、生成ＡＩを利用する上で注意すべき法的なリスクについてお伝えしたいと思います。

２　生成ＡＩに関する法的リスク

（１）情報入力時のリスク　守秘義務違反（個人情報・営業機密などの流出）

　生成ＡＩに情報を入力する際に、以下のデータを入力していないでしょうか。
・氏名、住所、電話番号、メールアドレスなどの個人を特定する情報
・顧客データ、未発表の企画資料などの組織の機密に属する情報
　生成ＡＩでは、サービスの改善などを目的として、入力された情報が生成ＡＩ内で収集・保存・分析されて再利用される可能性があります。
　そのため、個人情報や営業機密などを入力してしまうと、生成ＡＩにデータとして保存・再利用され、意図せずに大切な情報が流出してしまう危険性があります。
　このようなリスクを回避するためには、①生成ＡＩの利用前に利用規約などを確認し、入力した情報が生成ＡＩ内で保存・再利用の対象となるか否かを十分に把握しておくことが大切です。また、②生成ＡＩを利用する際にも個人情報や営業機密などは原則入力しないようにすることも重要です。そして、③組織内で生成ＡＩの利用ルールを事前に定めておき、従業員らに指導・教育を徹底しておくことも有効であると考えられます。

（２）情報出力時のリスク　他人の権利（著作権や名誉など）の侵害

ア　イラストやキャラクターの生成
　生成ＡＩを利用すると、イラストやキャラクターを自動的に作成することができますが、生成されたイラストやキャラクターが、すでに発表されている既存のキャラクターに類似していた場合、大きな問題に発展する危険があります。
　例えば、既存のキャラクターに似た画像を商品や広告等に利用する場合には、オリジナル・キャラクターの作成者の著作権を侵害するものとして、民事的なトラブル（損害賠償請求）につながる可能性があるだけでなく、刑事的な責任を追及される可能性もあります。
　このように生成ＡＩで作成したイラストやキャラクターには、著作権侵害などの意図しないトラブルに発展する可能性があるため、商業的に利用する際には、特に慎重な判断が求められます。

イ　研究論文の生成
　大学でのレポートや業務上の必要性から研究論文などを作成することがあるかと思いますが、安易に生成ＡＩを利用すると大きな問題に発展する危険があります。
　例えば、生成ＡＩによって作成された文章が既存の研究論文と実質的に類似している場合には、著作権侵害と評価される可能性があります。また、現実には存在しない理論や文献、裁判例などを引用・記載する危険性がありますし、生成ＡＩの利用の程度によっては作成者のオリジナリティのある論文として評価されない可能性もあります。
　そのため、研究論文などの作成に生成ＡＩを利用する場合は、構成案の整理や表現の推敲などにとどめて、生成ＡＩに全てを任せることは避ける必要があります。

（３）情報利用時のリスク　ディープフェイクによる虚偽拡散など

　ディープフェイクとは、ＡＩ技術を用いて画像や音声などを合成・改変し、実在の人物が実際には行っていない言動をあたかも当該人物による言動であるかのように見せるものです。生成ＡＩが作成した内容が本当に真実であるかは分かりませんので、悪用することは元より、ディープフェイクであるかもしれないことも念頭に置いて、インターネット上の情報を安易に真実であると鵜呑みにせず、情報の真偽を十分に確認する「裏取り」が極めて重要です。以下に具体的な問題例を紹介します。

ア　著作権侵害や名誉棄損
　ディープフェイクを作成・利用して一般に公表した場合、その内容によっては、名誉毀損罪などの刑事責任や損害賠償などの民事責任を問われる可能性があり、実際に、ディープフェイクに関して刑事的に処罰された事例も存在します。
　例えば、芸能人の顔画像を無断で使用して既存の動画に合成したディープフェイク動画を作成・公開・販売した事案において、裁判所は、これらの行為が既存の動画の作成者の著作権および芸能人の名誉感情を侵害するものと判断し、被告人に対して懲役２年（執行猶予３年）の有罪判決を言い渡しました（東京地方裁判所令和２年１２月１８日判決）。
　また、意図的ではなかったとしても、ＳＮＳなどのインターネット上に存在するディープフェイクと思われる画像や動画を安易に真実のものと誤信して拡散した結果、他人の名誉を傷つけてしまう危険もあります。

イ　特殊詐欺被害
　オレオレ詐欺や投資詐欺などの特殊詐欺が社会問題となっていますが、詐欺の手法は日々巧妙化されており、その手口にディープフェイクが利用されるケースも増えています。特殊詐欺の特徴として、詐欺者から被害者（ターゲット）への一方的な接触から始まることが多く、初期段階で詐欺か否かを見抜く術が極めて重要となります。生成ＡＩの発達によって詐欺を見抜くことが益々困難になっていますが、相手方が一方的に言っていることを鵜呑みにせずに、一息おいて、自分の情報網（例えば、家族や友人、行政機関など）で自分発信によって事実（真偽）の確認を行うように心掛けられてください。

ウ　訴訟での誤利用
　これは弁護士にとっても頭の痛い話ですが、法的なトラブルの解決を目指して訴訟手続を行うにあたり、裁判所に提出する訴状や証拠資料などの作成・収集に生成ＡＩを利用することがあるかもしれません。しかし、生成ＡＩは文章の作成能力に優れていると考えられていますが、その内容が法的に正確か否かを判断できる段階には未だ至っていないと言われていますので、その真偽を慎重に精査する必要があります。特に、弁護士に依頼されずに、ご本人だけで訴訟手続を行われる「本人訴訟」の場合には、ディープフェイクの存在も含めて生成ＡＩの特殊性に十分にご注意ください。

３　生成ＡＩとの付き合い方

　以上のように、生成ＡＩを利用する上で想定される法的リスクを簡単にご説明しました。生成ＡＩは日々進歩しており、ここで取り上げたもの以外にも、今後新たな法的リスクが増えていく可能性があります。そのため、生成ＡＩを利用する際には、その利便性だけでなく、どのようなリスクが存在するのかを十分に意識した上で、適切に活用していくことが重要です。

　生成ＡＩの問題に限らず、何か法的なトラブルやお悩み事がありましたら、最寄りの法律相談センターでご相談ください。