生成 AI に入れてよいものの判断をソフトウェアへ移す——Kamei と正規表現マスク 300 件実測から読む現場の設計
はじめに
この稿は、生成 AI の利用規則を整える日本の現場の方への答えです。社内規則に「個人情報は入力するな」と書いた次に、何を書けばよいか、という問いです。
規則は書きました。けれど、書いたから守られるとは限りません。
規則の下で起きている入力
株式会社サイバーセキュリティクラウドが 2026 年 5 月 13 日に公表した調査があります（2026 年 4 月実施、有効回答 300 名）。
生成 AI を業務で利用する人は 67% でした。公式に認めているツールを使う人が 52% で、社内のルールが明確でないまま使う人が約 13%、ルールで認められていないツールを使う人が約 2% でした。いわゆる影の AI です。
入力した情報では、社内の議事録やメモが半数を超えました。財務・売上データが 19.9%、顧客名・取引先情報が 16.4%、個人情報（氏名・連絡先）が 10% でした。外部に共有されうることを「あまり・全く意識していない」と答えた人も約 23% います。
利用者からは、入力内容がどこへ送られ、どう扱われるか確かめられません。2026 年には、安い Claude を売る不正な再販業者がありました。利用者の通信を別の AI モデルへ中継し、認証情報まで盗んでいたと報じられています（Anthropic の脅威レポート、2026 年 9 月。Kamei 記事経由の二次引用です）。
2 つの対処と、その限界
現場の対処は 2 つです。
使わせない方法です。 生成 AI の業務利用を禁止する形です。AI の便利さも手放します。
決まった形の情報を見つける方法です。 電話番号、メールアドレス、カード番号など形の決まった情報は、正規表現で見つけられます。
2 つ目の限界は、Zenn で 2026 年 10 月 15 日公開の実測記事が数字にしています。架空の日本語データ 300 件で、正規表現マスクの漏れと誤検知を測りました。最小限の 5 本の規則では、300 件中 240 件で秘密の文字列が残りました。全角を半角に正規化し、カード番号は検査用の計算で検算する作り込み版でも、25 件が残りました（氏名 15 件、社名 10 件）。書式を崩した 48 件は、作り込み版でも全部素通りでした。誤検知も 100 件中 17 件から 21 件に増えました。
理由は、日本語の文書に形の決まらない固有名詞の多さです。取引先の社名、社内のプロジェクト名、社内システムの名前は、普通の単語と見分けがつきません。「丸栄商事」「マルエイ」のように書き分けられていても、文字の並びだけでは判断できません。なお、この実測は架空の短文での結果で、実際の議事録や長文では数字が変わります。
判断をソフトウェア側に移す設計
Zenn で 2026 年 10 月 16 日公開の Kamei の記事は、この判断をソフトウェア側で引き受ける設計を示しています。AI に渡す前に、機密情報や人・組織を特定できる情報を種別の分かる仮名に置き換え、回答が返ってきたら元の名前に戻します。
仮名の工夫は 3 つあります。種別が分かることです。「人物」「会社」「案件」のように種別を残すので、AI が文の意味を取り違えません。元に戻せることです。回答に出た仮名を手元で戻します。推測できないことです。仮名は会話ごとの鍵で作る鍵付きハッシュで、同じ名前でも会話が変われば別の仮名になります。
判定は 2 段構えです。毎回必ず動く規則（ガードレール）と、規則を抜けた固有名詞の機密性を判定するエージェントが分担します。エージェントが「通す」と言っても、別の判定器が「隠す」と言えば人の確認に回します。送る直前には、隠すと決めた名前が残っていないかを機械で照合します。判定に使うモデルは組織が自分で管理するクラウドプロジェクトの中で動かし、外部の LLM には仮名にしたテキストだけを送ります。
人の確認は最小限です。判定器どうしの意見が「通す」側に割れた名前と、番号の疑いがある数字だけを尋ねます。確認で「隠す」と決めた名前は語彙として覚えておき、次からは尋ねずに隠します。
社内規則に書き足す 3 点
判定の入口を作る。「個人情報は入力するな」で終わらせず、仮名にしてから送る入口を規則に書きます。判断を利用者 1 人 1 人に委ねず、送る前にソフトウェアが仮名に変える仕組みへ移します。
仮名は種別を残す。 単に黒く塗るのではなく、種別の分かる仮名にします。AI が文の意味を取り違えると回答の質が落ちて、規則を避ける理由ができます。
人の確認は割れたときだけに絞る。 全件を人が確認すると、確認が形骸化します。判定器どうしの意見が割れたときだけ人に聞き、その判断は語彙として蓄積する旨を規則に書きます。
あわせて、個人情報の保護を所管する行政機関の注意喚起（2023 年 6 月）があります。個人情報を含むプロンプトの入力について、利用目的の範囲内か、提供事業者が機械学習に利用しないか等の確認を求めています。
参考情報
- Kamei の開発者の記事「Kamei - AIに渡す前に機密情報を隠すエージェント」、Zenn、2026 年 10 月 16 日公開。一次資料である
- 実測記事「生成AIに貼る前の正規表現マスク、日本語の架空データ300件で測った漏れと誤検知」、Zenn、2026 年 10 月 15 日公開。一次資料である。300 件中 240 件と 25 件・48 件の素通り・誤検知 17 件と 21 件はこの記事の結果である
- 株式会社サイバーセキュリティクラウド「生成 AI の業務利用実態に関する調査」、2026 年 5 月 13 日公表。2026 年 4 月 21 日から 22 日実施・有効回答 300 名。67%・52%・約 13%・約 2%・19.9%・16.4%・10%・約 23% の出典である
- 「生成 AI サービスの利用に関する注意喚起等」、個人情報の保護を所管する行政機関、2023 年 6 月 2 日。個人情報を含むプロンプトの入力の確認を求めている
- Anthropic の脅威レポート（2026 年 9 月）の不正再販業者の記載は、Kamei 記事経由の二次引用で、原文は未取得である
本記事は AI の支援を受けて執筆されました。事実の確認と内容の責任は筆者にあります。