ChatGPTを法務部門で利用する際の注意点
2023/04/17   情報セキュリティ, リーガルテック, 知財・ライセンス, 個人情報保護法, 著作権法

はじめに

ChatGPTをはじめとする、対話式AIの活用が世界中で注目を集めています。日本でもビジネスパーソンが自身の業務に対話式AIを活用する事例が増えています。
本記事では、対話式AIを法務部門で利用する際の注意点について考察してみます。

対話式AIとは

対話式AIとは、システム内で質問を入れると、まるで人間と実際にチャットで会話しているかのように、大量のテキストデータを学習したAIが自然な文章で回答を行うサービスです。現在、特に世間を席巻しているのが、アメリカのベンチャー企業、OpenAI社が提供している「ChatGPT」。現在、ChatGPTの後継として性能を大幅に向上させた“GPT-4”が提供されていますが、OpenAI社の発表によると、このGPT-4は、アメリカ司法試験において、上位10%に入れるほどの好成績を残す結果を出したといいます。

その他にも、文章の添削・校正、文章や概念の要約、アイデアの壁打ちやブレインストーミング、リサーチ・論点の洗い出し、アイデアの提案などに力を発揮すると言われている対話式AI。法務パーソンとしては、「これらを活用することで、日々の業務が一気に楽になるのでは」と思わず期待せずにはいられませんが、その利用には現状リスクがあるとされています。

例えば、AIが情報を正確に理解できない場合や、参考とする過去データに誤りがある場合などに、AIが導き出した答えがフェイク情報となる可能性があります。また、個人情報保護などの観点で課題もあり、各国で議論が進んでいます。
報道によりますと、イタリアでは、3月末、ChatGPTの膨大な学習データに含まれる数百万人のイタリア人の個人データの使用が、個人情報保護の法律に違反する可能性があるとしてChatGPTの使用を一時的に禁止したとされています。

対話式AIを法務部門で利用する際の注意点

では、ChatGPTをはじめとする対話式AIを企業法務実務で活用する場合、どのような対策を考える必要があるのでしょうか。

(1)正確性の担保
冒頭でも記載した通り、ChatGPTをはじめとする対話式AIは大量のデータを学習し、それを元に文章を作り、回答を行います。
（例えば、今話題となっている“GPT-4”の学習の対象には、非営利団体が集めたWebのクロールデータやWikiペディアなどのテキストデータに加えて、音楽・動画・画像・Twitter・ニュースなど、テキスト以外のデータも含まれています。）

そのため、対話式AIの学習の過程で、不正確な情報を学習している可能性が残ります。もともと、既存の対話式AIは、一般的な情報提供を目的として作成されたツールで、法的判断を下すために設計されたものではありません。

法務相談などでの利用も考えられますが、対話式AIが出したアウトプットをそのまま法務実務で利用することは、正確性を担保するうえでリスクがあるということです。

正確性の最終的な裏付けは、依然として、法務パーソン自らが一次情報に当たる必要がありそうです。

(2)プライバシーとセキュリティ
対話式AIを利用する場合、取得し又は学習させるデータのプライバシーやセキュリティの保護が問題となります。
例えば、ChatGPTにユーザーが個人情報を打ち込んだり、ChatGPTがWEB上で使用される過程で、「クッキー」などの情報トラッキング技術でユーザー情報が収集されることがあるといいます。ChatGPTが個人情報を収集し、保存することはないとのことですし、法務パーソンが業務で個人情報を打ち込む場面も少ないと想定されますが、万が一、第三者の個人情報を入力する場合には本人の同意を取るなど、適切な取扱いを行う必要があります。

(3)自動生成された文章等の著作権
対話式AIの活用にあたっては、対話式AIの学習に用いられたWEB上の文章と同一の文章が対話式AIから自動生成される可能性もあるため、著作権侵害の有無も検討する必要があります。

最判昭和53年9月7日の判例では、著作権法上、既存の他人の著作物を利用して作品を作出する、いわゆる、「依拠性」があることが著作権侵害には必要である旨、判示されています。対話式AIから自動生成された文章が、既存の著作物に依拠せず偶然に作成されたといえるか否かがポイントになりそうです。

コメント

今回取り上げた対話式AIについては、活用が始まって間もないため、まだまだどんな課題や懸念が現れるか不透明な状況です。一方で、その普及速度は急激に上昇しており、企業側は社内規程の整備を急ぐなど、活用方法を模索しています。

具体的には、個人情報や機密情報に関する利用ルールや、対話式AIにデータを学習させる際の運用方針の確立などが大きなテーマとなっています。

もはや、対話式AIの企業内での日常利用はそう遠くない未来に訪れると予想されます。法務部門としても、今から、しっかりと情報を収集し、法的リスクを分析したうえで、社内ルール作り等に着手する必要がありそうです。