個人情報保護委員会の2つの注意点を、社員はまだ読んでいません

2023年6月2日、個人情報保護委員会は生成AIについて短い注意喚起を出しました。3ページです。宛先は個人情報取扱事業者、行政機関等、そして一般の利用者。法務部門の外でこれを読んだ人は多くありませんが、会社が自分のルールに書くべきことがそのまま書いてあります。

事業者に伝えていること

2点で、なるべく原文に近く引きます。

1つ目。個人情報取扱事業者が生成AIサービスに個人情報を含むプロンプトを入力する場合には、特定された利用目的を達成するために必要な範囲内であることを十分に確認すること。

2つ目。あらかじめ本人の同意を得ることなく生成AIサービスに個人データを含むプロンプトを入力し、その個人データが応答結果の出力以外の目的で取り扱われる場合、個人情報保護法に違反する可能性がある。そのため、このような入力を行う場合には、提供事業者がその個人データを機械学習に利用しないこと等を十分に確認すること。

平たく言えばこうです。お客様に伝えた利用目的は、チャット画面の中でもそのまま生きている。そして、学習に使うかどうかも含めて、ベンダーが入力をどう扱うかは技術的な脚注ではありません。誰かが貼り付ける前に確認しておくべきことです。

一般の利用者に伝えていること

注意喚起は個人の利用者にも語りかけていて、ここが研修スライドに載せる部分です。生成AIに入力した個人情報は学習に使われ、他の情報と結びついて、正確にも不正確にも出力されるリスクがある。応答は確率的な相関で生成されるため、不正確な個人情報が含まれることがある。入力する前に提供事業者の利用規約とプライバシーポリシーを確認すること。

なぜ設計の問題なのか

この点について話をする会社には、共通する課題があります。社員は生成AIを使っています。書かれたルールはありません。使っているアカウントの学習設定を誰も確認していません。そして一番リスクの高い顧客データは、AIを最も早く取り入れた部署、多くは営業かサポートにあります。

「気をつけて」と言っても何も起きません。効くのは地味なことです。入力の学習をオフにした承認済みツールと、その設定を担当者を決めて書面で確認したこと。プロンプトに絶対に入れないものの1ページのリスト。住所付きの氏名、健康情報、各種番号、お客様が想定しないもの。モデルが見る前に個人データを取り除く工程を業務フローの中に置き、ルールを記憶ではなく道具で守らせること。そして部署ごとに半日、なぜそのルールがあるのかを伝えること。

いまやる理由

規制当局がこれを書いたのは2023年、普及の初期です。社員がいま生成AIを使っているなら、「知らなかった」は通りません。「ルールはあった」も、そのルールが仕事のやり方に組み込まれていなければ弱いです。注意喚起は短いものです。承認済みツール、1ページのリスト、個人データを取り除く工程まで形にするのに1週間ほどかかります。私たちは、自分たちが手がけるAI導入では最初にこれをやります。すでに始まっていてまだないなら、最初に予定に入れる1週間はそれです。