顧客の文書を生成AIのチャットに貼り付けると、その内容を、顧客とは何の約束もしていない社外の事業者に渡すことになります。本人は道具を使っているつもりでも、実際に行っているのは社外への開示です。1回の貼り付けが、取引先との契約、職業上の守秘義務、個人情報保護法のすべてに関わることもあります。
なぜ広がるのか
月曜日に、上司から顧客の契約書90ページの要点を木曜日までにまとめるよう頼まれたとします。ChatGPTに貼り付ければ、翌日には整った要約ができあがります。どうやってこれほど早くまとめたのか、わざわざ説明する人はいません。
時間を短縮できるのは確かです。専門的な知識もいらず、作業を誰かに見られることもありません。チャットの画面は個人的な作業スペースに見え、AIは文章を処理しているだけに見えます。そのため、こうした使い方は、社内のルールが追いつかないまま広がりやすいものです。理由が分かるからといって、許されるわけではありません。
実際に送ったもの
その契約書には、顧客の正式な社名、本店所在地、振込先の口座が書かれていました。相手方の名前、取引条件、違約金の条項もあります。顧客の取締役会がまだ見ていない取引の方針まで読み取れたかもしれません。
そのすべてが、米国の事業者が運営するサーバーに送られました。その後どう扱われるかは、アカウントの種類によって異なります。
- 個人向けのアカウントでは、設定を変えない限り、会話がモデルの学習に使われることがあります。
- 法人向けのアカウントは、既定では学習に使わないとされています。ただし、社員が個人のアカウントを使っていれば、この条件は当てはまりません。
- 事業者によっては、不正利用の確認などのために、担当者が会話の内容を確認することがあります。
会社が問われる4つのこと
取引先との契約。秘密保持契約や業務委託契約の多くは、顧客の情報を第三者に開示することを禁じています。AIサービスの事業者も第三者です。損害が出ていなくても、顧客が契約違反を主張することはありえます。
職業上の守秘義務。弁護士は弁護士法第23条、税理士は税理士法第38条で守秘義務を負っています。医師や弁護士などが業務上知り得た秘密を正当な理由なく漏らせば、刑法第134条の秘密漏示罪に問われることもあります。いずれも、顧客との契約とは別に負う義務です。
個人情報保護法。個人情報保護委員会は2023年6月2日の「生成AIサービスの利用に関する注意喚起等」で、「あらかじめ本人の同意を得ることなく生成AIサービスに個人データを含むプロンプトを入力し、当該個人データが当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合」には、法の規定に違反する可能性があると指摘しています。サービスによっては、外国にある第三者への提供を定めた第28条が関わることもあります。どの規律が当てはまるかは、サービスの仕組みと契約の内容によります。
違反があると、委員会は是正を勧告し、従わない場合などには命令を出すことができます（第148条）。命令に違反すれば、行為者には1年以下の拘禁刑または100万円以下の罰金、法人には1億円以下の罰金が科されることがあり（第178条、第184条。2027年1月17日以降は第181条、第185条）、委員会はその旨を公表することもできます。これは上限であり、入力のたびに科される金額ではありません。2026年7月に公布された改正法では、大量の個人情報を扱う悪質な違反を対象に、課徴金の制度も設けられました（原則として公布から2年以内に施行）。
顧客の信頼。顧客は、AIを使うこと自体はあまり気にしません。社外のサービスに渡す前に、自分の情報は取り除かれているはずだと考えています。そうでなかったと知れば、取引が続かなくなることもあります。専門職にとって、顧客を失うことは、仕事の基盤を失うことに等しいといえます。
神戸市は入力そのものを条例で禁じました
神戸市会は2023年5月24日、市の職員が職務上知り得た個人情報や非公開の機密情報を、ChatGPTなどの生成AIに入力することを禁じる条例改正案を可決しました。安全性が確認されたものとして市長が定める場合は除かれます。市によると、生成AIに関する自治体の条例は全国で初めてです（神戸新聞、2023年5月24日）。この定めは、2024年3月に可決された「神戸市におけるAIの活用等に関する条例」にも受け継がれています。禁じられているのは入力そのもので、情報が漏れたかどうかは問われていません。社外のサービスに送った時点で、預かった情報は自分たちの管理を離れます。
プライバシーポリシーでは解決しないこと
事業者は、入力内容を学習に使わないと約束していることがあります。その約束は、特定のアカウントの種類について、その時点の規約で定められたものです。顧客との契約上の義務を免除するものではなく、職業上の守秘義務を果たしたことにもなりません。規約が変わったり、自分のアカウントの種類を思い違いしていたりすれば、その約束も当てになりません。
名前がなくても分析はできる
契約書の分析に、相手方が「株式会社サンプル、東京都千代田区〇〇1-2-3」であることは必要ありません。必要なのは、各条項の構造、文言、論理です。たとえば、次の条項を考えてみます。
「[O7KQ2M]は、[O3XRW9]の書面による事前の承諾なく、本契約に基づく権利義務を第三者に譲渡してはならない。」
相手方の会社名がコードに置き換わっていても、この条項が譲渡を禁じていることも、事前の承諾が例外になることも読み取れます。違約金の条項も、名前を取り除いて意味が変わることはありません。
そこで、貼り付ける前に文書から識別情報を取り除きます。promptShieldは、氏名や住所を[P0ABCD]のような形式のコードに置き換えます。AIの分析は変わらず、受け取った回答をお使いのパソコンの中でデコードすれば、元の値に戻ります。同じフォルダーの中では同じ値に同じコードが使われるので、AIは複数の文書にまたがっても当事者を区別できます。
検出、コード化、デコードは、すべてパソコンの中で行われます。自動の検出ですべてが見つかるとは限らないため、ダウンロードの前に結果を確認する手順があります。貼り付ける前に確認することはChatGPTに社内文書を貼り付ける前の確認にまとめています。
よくある質問
貼り付けた文章は、どこに送られているのですか？
AIサービスを運営する事業者のサーバーです。保存期間や、担当者が内容を確認するかどうかは、事業者の規約で決まります。会話を削除しても、送ったという事実は消えません。
有料プランや法人向けプランにすれば解決しますか？
一部だけです。こうしたプランでは、入力内容を学習に使わないとされていることが多くあります。ただし、顧客との秘密保持条項や職業上の守秘義務がなくなるわけではありません。
生成AIの利用をやめずに済む方法はありますか？
あります。文章がパソコンを離れる前に、識別情報をコードに置き換えます。回答を受け取ったら、手元のコード台帳を使って元の値に戻します。AIが作業をするのに、氏名や会社名が必要になることはほとんどありません。