個人情報漏洩が相次ぐ時代に、ローカルLLMをどう位置付けるか

個人情報漏洩のニュースに接するたびに、利用者がパスワードを変えて対応する。この繰り返しに、限界を感じる人も多いでしょう。利用者が注意していても、情報を預けた事業者や、その委託先で漏洩が起これば防ぎ切れません。

2026年10月7日、個人情報保護委員会は、大量の個人情報を扱う事業者への不正アクセスを踏まえ、注意喚起を公表しました。そこで問われているのは、防御の強さだけでなく、何を、どこに、どれだけの期間残しているかという情報管理の設計です。[1]

この問題は、日々の相談や仕事の資料を扱う生成AIともつながっています。ローカルLLMには、情報を外部へ渡す機会を減らせる利点があります。その選択肢を支えるオープンウェイトモデルは、今後どのような位置を占めるのでしょうか。

本稿は2026年10月9日時点の公開資料に基づく論考です。将来の見通しは、確認された事実と区別して記しています。

一度預けた情報は利用者だけでは守れない

具体例として、個人情報保護委員会が2026年8月19日に公表したメールサービスの事案があります。KDDIが複数のプロバイダに提供していたシステムで、ソフトウェアの脆弱性を悪用した不正アクセスがあり、同年6月17日に認証情報の漏洩が発覚しました。確認された対象者は1223万1954人。そのうち761万6173人のパスワードは、読める文字列のまま保存されていました。[2]

メールアドレスとパスワードが漏れると、同じパスワードを使っている別のサービスまで侵入されるおそれがあります。さらにメールの中身には、過去の連絡、請求、取引先、各種サービスの登録情報が含まれ得ます。一つの認証情報が、その人の別の情報にアクセスする入口になるのです。

この事案を、クラウドサービス全般や生成AIの危険性へそのまま結び付けることはできません。一方で、利用者から見えにくい共通の基盤へ情報が集まると、障害や侵入の影響が広範囲に及ぶことは分かります。個人の注意に加えて、事業者が保有量を減らし、権限を絞り、不要な情報を残さない設計が必要です。10月の注意喚起も、不要となった個人データを保管し続けることで、被害が深刻になる事例を指摘しています。[1]

AIとの会話には情報が集まりやすい

生成AIを便利に使おうとすると、社外秘の資料や背景となる詳細な事情まで詳しく伝えたくなります。文章の添削なら元の文書、会議の整理なら議事録、仕事の相談なら部署や取引の内容、経緯などが必要になるからです。個々のユーザーの入力は小規模でも、会話が蓄積すると仕事や生活の様子をかなり具体的に推測できるデータになり得ます。

ここではユーザーの情報入力に関する三つの問題、すなわち、サービスへ情報を送ること、送った情報が保存されること、学習に利用されることを区別する必要があります。「学習に使わない」という条件だけでは、保存期間、障害調査用のログ、外部ツールへの転送がどうなっているかまではユーザー側で判断できません。反対に、クラウドで処理するというだけで、必ず学習に使われると考えるのも誤りです。

最近のAnthropic社の報告によると、中国のAIサービスプロバイダーがユーザーの入力情報を秘密裏にアメリカのプロバイダーに送信してモデルの応答内容を収集していた、という事例もありました。入力情報の中には中国政府の機密情報も含まれていたため、かなり問題になっています。

また、検索用に文書を登録する仕組みでは、元の文書、検索用のデータベース、取り出した抜粋、会話ログが別々に残ることがあります。AIの名前やモデルの性能だけを見るのでは、情報の行き先を把握できません。

ローカルLLMが減らせるリスク、残るリスク

ローカルLLMは、手元のPCや自分で管理するサーバーで動かす大規模言語モデルです。モデルの重みを取得できれば、質問のたびに提供企業の推論サーバーへ文章を送らずに処理する構成を作れます。例えばOpenAIのgpt-ossシリーズなどは、利用者が管理する環境で実行するためのオープンウェイトモデルとして提供されています。[3]

外部サービスで推論

手元の文書 → 外部の処理基盤 → 回答
送信先・保存条件・委託先を確認する。

管理する環境内で推論

文書 → ローカルLLM → 回答
端末・ログ・アクセス権を自分で管理する。

この利点は明確です。個人情報を含む下書きの整理、社内文書の分類、公開前の研究資料の要約などで、外部送信という一つの経路を取り除けます。しかし、推論を手元に移しただけで、情報漏洩がなくなるわけではありません。

OWASPも、LLMアプリケーションの機密情報漏洩に対し、必要な情報だけへアクセスを認めることや、外部データ源を制限することを挙げています。「秘密を漏らすな」という指示文だけに頼る構成では十分ではありません。[4]モデルが指示を守るかどうかにかかわらず、読めるファイルと通信先をシステム側で制限する必要があります。

管理の行き届いたクラウド環境の方が、放置された個人PCより安全な場合もあります。比較すべきなのは「クラウドかローカルか」という名前の問題ではなく、情報の経路と、その経路を実際に管理できる体制です。

適切な情報管理を実施することで、中国での事例のような「機密情報を第三者に転送されて悪用される」といったサードパーティリスクを減らすことができるでしょう。

オープンウェイトという選択肢の価値

ローカル実行とオープンウェイトは、同じ意味ではありません。前者は実行場所、後者は学習済みの重みを入手できる公開形態を指します。オープンウェイトモデルを外部のクラウドで使うこともできます。また、重みが公開されていても、学習用コードや学習データに関する十分な情報まで公開されているとは限りません。OSIのOpen Source AI Definitionは、それらも区別して扱っています。[5]

重みを取得して運用できることには、プライバシーに加えて、サービス提供者への依存を減らす意味があります。特定の版を保持し、同じ条件で評価を続け、用途に合わせて調整できるからです。ただし、改変や再配布の条件は各モデルのライセンスに従う必要があり、最新モデルが将来も同じ条件で公開される保証はありません。

公開されているモデルだから安全だとも限りません。配布元が不明なモデルや追加コード、改変された実行環境を取り込めば、別の危険を持ち込むことになります。公開範囲の広さと、配布物を信頼できるかどうかは、別々に確かめるべき問題です。[6]

今後は「公開されるか」だけでなく、運用できるかが問われる

今後の見通しとして、私は三つの動きが併存すると考えます。

第一に、機微情報を手元や組織内で処理したい需要は残ります。ただし、最高性能のモデルを常にローカルで動かす必要はありません。分類、抽出、定型文書の作成など、必要な精度を満たす用途から導入する方が現実的です。公開情報を使う難しい調査は外部サービスへ、機密を含む前処理は内部へ、と処理を分ける構成も考えられます。

第二に、重みの配布だけではなく、更新、脆弱性への対応、日本語での評価、導入支援を提供する事業の価値が高まる可能性があります。モデルをダウンロードできても、それが安全に継続運用できなければ、組織では採用しにくいからです。

第三に、最先端モデルの公開状況は不安定で不透明になり得ます。開発費の回収、競争上の利益、悪用への懸念などから、提供企業が公開範囲を狭める場合もあれば、利用者や開発者を増やすために緩める方針をとる場合もあるでしょう。これは将来のシナリオであり、オープンウェイトが必ず閉鎖される、あるいは必ず主流になるという予測ではありません。

例えば、中国のアリババ社は自社で開発するQwenシリーズをオープンウェイトモデルとして配布していますが、将来的にクローズドに方針転換するのではないか、というユーザー側の懸念は以前から囁かれています。

公開モデルの将来を考えるときは、ベンチマークの順位と同時に、利用条件、手元で動く計算量、実行ソフトウェアの保守、継続して配布される仕組みを十分に確認する必要があります。既存の公開モデルを保持できることと、将来の能力向上へアクセスできることも分けて考えるべきでしょう。

情報を預ける量を自分で選べるようにする

ローカルLLMは、社会で起きる情報漏洩のすべてを解決する技術ではありません。銀行、通信、医療など、外部の事業者に情報を預けなければ成り立たないサービスは残ります。利用者が自衛するからといって、事業者の管理責任が軽くなることもありません。

それでも、AIに相談するたびに外部へ詳しい事情を送らなくて済む選択肢には価値があります。必要な情報だけを渡し、不要な記録を残さず、外部へ出す範囲を選ぶ。ローカルLLMとオープンウェイトモデルは、そうした情報管理を利用者側でも設計できるようにする手段として評価できます。

参考資料

1. 1. 個人情報保護委員会「大規模な漏えい等事案を踏まえた対応について」。2026年10月7日。最近の事案と、不要なデータの消去に関する注意喚起。
   2. 個人情報保護委員会「KDDI株式会社及びインターネットサービスプロバイダに対する行政上の対応等」。2026年8月19日。認証情報の漏洩、保存方法、二次被害のリスク。
   3. OpenAI「OpenAI open-weight models (gpt-oss)」。自ら管理する環境での実行、ライセンス、データの取扱い。
   4. OWASP「LLM02:2025 Sensitive Information Disclosure」。LLMアプリケーションの情報漏洩とアクセス制御。
   5. Open Source Initiative「The Open Source AI Definition – 1.0」。重み、コード、学習データに関する情報の公開範囲。
   6. OWASP「LLM03:2025 Supply Chain」。モデルや依存ソフトウェアの供給経路に関するリスク。

資料の最終確認日：2026年10月9日。