ChatGPTに文書を貼り付けてよいかどうかは、主に文書に誰のことか分かる情報が残っているかどうかで決まります。氏名や住所、口座番号を取り除いてから貼り付ければ、AIサービスの事業者に届くのは、誰のことか分からない文章だけです。取り除かずに貼り付ければ、取引先や顧客の情報を社外の事業者に渡したことになります。
「大丈夫か」には2つの問いが含まれている
「ChatGPTに入れても大丈夫か」という問いには、性質の違う2つの問いが混ざっています。1つは、事業者が入力内容を漏らしたり、ほかの目的に使ったりしないかという問いです。これは事業者の管理体制で決まります。
もう1つは、そもそもその情報を社外に送ってよいのかという問いです。こちらは契約、社内規程、法律、職業上の守秘義務で決まります。事業者のセキュリティがどれほど高くても、他人の個人情報を送ってよいことにはなりません。前者は利用者の側ではほとんど左右できませんが、後者は自分で判断できます。実際に問題になるのも、たいていは後者です。
個人情報保護委員会の注意喚起
個人情報保護委員会は2023年6月2日、「生成AIサービスの利用に関する注意喚起等」を公表しました。事業者に対しては、まず、個人情報を含むプロンプトを入力する場合に、特定された利用目的の達成に必要な範囲内であることを十分に確認するよう求めています。
続けて、「あらかじめ本人の同意を得ることなく生成AIサービスに個人データを含むプロンプトを入力し、当該個人データが当該プロンプトに対する応答結果の出力以外の目的で取り扱われる場合」には、個人情報保護法の規定に違反する可能性があると指摘しています。そのうえで、提供事業者が「機械学習に利用しないこと等を十分に確認すること」を求めています。一般の利用者にも、利用規約やプライバシーポリシーを確認して判断するよう呼びかけています。
プランで変わること、変わらないこと
OpenAIの説明によると、個人向けのChatGPTでは、データコントロールの設定を変えない限り、会話がモデルの学習に使われることがあります。ChatGPT Enterprise、ChatGPT Business、APIなどの法人向けサービスでは、既定で入力も出力も学習に使われません。注意喚起が求める確認のうち、学習への利用については、ここで答えが出ます。
ただし、これは事業者が説明している現時点の条件で、今後変わることもあります。実際にそのプランを、その設定のまま使っていることも前提です。また、条件のよいプランで変わるのは、事業者が受け取った文章をどう扱うかだけです。文章がお使いのパソコンを離れ、社外のサーバーに渡ったという事実は、どのプランでも同じです。
守秘義務は別に残る
多くの秘密保持契約は、相手方から受け取った秘密情報を第三者に開示することを禁じています。AIサービスの事業者も、その契約の当事者ではない第三者です。
職業上の守秘義務もあります。弁護士は弁護士法23条で、税理士は税理士法38条で、職務上知り得た秘密を守る義務を負っています。医師や弁護士などが業務上知り得た人の秘密を正当な理由なく漏らせば、刑法134条の秘密漏示罪に問われることもあります。こうした義務は、AIサービスのプライバシーポリシーによって軽くなるものではありません。情報が社外に出てしまった後に何が問われるかは、顧客の文書を生成AIに入力するリスクで説明しています。
神戸市の条例
神戸市会は2023年5月24日、市の職員が職務上知り得た個人情報や非公開の機密情報を、ChatGPTなどの生成AIに入力することを禁じる条例改正案を可決しました。安全性が確認されたものとして市長が定める場合は除かれます。市によると、生成AIに関する自治体の条例は全国で初めてです。同じ報道によれば、市は入力の履歴を保存しない生成AIのサービスを導入する予定も示していました（神戸新聞、2023年5月24日）。この定めは、2024年3月に可決された「神戸市におけるAIの活用等に関する条例」にも受け継がれています。
禁じたのは入力そのもので、情報が漏れたかどうかは問われていません。そのうえで、履歴を残さない環境を別に用意しようとしました。何を送ってよいかは送る側が決めることで、送った情報の扱いは送り先の環境によって変わります。この記事の最初に分けた二つの問いと、同じ整理です。
貼り付けた文章はどうなるか
貼り付けた文章は事業者のサーバーに送られて処理され、一定期間は保存されます。保存される期間、不正利用の確認のために事業者が内容を見る可能性、学習に使われるかどうかは、プランや設定によって異なります。学習をオフにしていても、文章は自社で管理できないシステムの上に置かれます。
貼り付ける前に確認すること
- 誰の情報か。自分だけの情報でなければ、いったん手を止めます。
- 識別情報が含まれていないか。氏名、住所、電話番号、口座番号、生年月日、マイナンバーなどです。
- 社外に出してよい情報か。事業者の説明ではなく、契約書、社内規程、職業上のルールで確かめます。
- AIに本当の氏名が必要か。ほとんどの場合、必要ありません。
4つめの答えが「必要ない」なら、識別情報を取り除いてから貼り付けます。そうすれば、1つめから3つめの確認で引っかかることは、ほとんどなくなります。
識別情報は先に取り除く
契約書の要約や返信の下書きに、AIが必要とするのは内容と構成です。相手方が「株式会社サンプル」で、所在地が「東京都千代田区〇〇1-2-3」であることまでは必要ありません。こうした情報は、文章がパソコンを離れる前に取り除いておきます。
promptShieldは、氏名や住所を[P0ABCD]のような形式のコードに置き換えます。先頭の文字は情報の種類を表します。コード化した文章を貼り付け、受け取った回答をデコードすると、お使いのパソコンの中でコードが元の値に戻ります。同じフォルダーの中では同じ値に同じコードが使われるので、文書が複数あっても、AIは当事者を取り違えません。詳しくはコード化の仕組みの解説をご覧ください。
こうしておけば、事業者に渡るのは誰のことか分からない文章だけになり、プランの種類や保存期間を心配する必要は小さくなります。なお、コードと元の値の対応を記録したコード台帳が手元にある限り、コード化した文書も社内では個人情報として扱います。この点はマスキングした文書と個人情報保護法の記事で説明しています。promptShieldのデスクトップアプリは、検出からデコードまでをすべてお使いのパソコンの中で行います。
よくある質問
ChatGPTの法人向けプランなら、顧客の情報を入力しても問題ありませんか？
解決するのは一部だけです。法人向けプランのデータは既定では学習に使われないため、注意喚起が求める確認には答えやすくなります。ただし、文章が社外に送られることは変わらず、秘密保持契約や職業上の守秘義務がなくなるわけでもありません。
会話を削除すれば、入力しなかったことになりますか？
なりません。OpenAIの説明では、削除した会話はすぐに履歴から消え、原則として30日以内に事業者のシステムからも削除されます。ただし、セキュリティや法律上の理由で保存が続く場合があります。いずれにしても、社外に送ったという事実は残ります。
ファイルを添付するのと本文を貼り付けるのとでは、どちらが安全ですか？
どちらでも、内容はパソコンの外に送られます。ファイルを添付すると、作成者名、変更履歴、コメント、非表示の列など、画面に見えない情報まで一緒に送ることがあります。
Microsoft CopilotやGemini、Claudeでも同じですか？
同じです。外部の事業者が運営するAIサービスであれば、考え方は変わりません。対策も同じで、送る前に識別情報を取り除きます。