会社の会議録、設計図、顧客対応履歴をAIへ読ませたい。けれども、外部サービスへ渡すのは心配です。そこで注目されるのが、自社の管理下で動かすローカルLLMです。インターネットから切り離したサーバーだけでなく、専用区画やプライベートクラウドで動かす形も含まれます。
ただ、AIを社内へ置けば、情報漏えいも費用問題もきれいに消えるわけではありません。サーバーの鍵を閉めても、権限設定が甘ければ社内の別部署から見えてしまいます。GPUを買えばAPI利用料は減りますが、電力、冷却、保守、更新、夜間の障害対応は会社持ちです。AIにも「家賃ゼロなら生活費もゼロ」という都合のよい物件はありません。
私の見立てでは、社内AIの未来はクラウドから全面撤退することではありません。文書の機密度、回答に必要な速さ、モデル性能、法域、費用に応じて、仕事を複数のAIへ振り分ける「データ境界の設計」が企業の競争力になります。ローカルLLMはクラウドの代用品ではなく、会社が自分で引けるAIの境界線なのです。
ローカルLLMが守るのは場所より制御権
ローカルという言葉は「自社ビルの中」を連想させますが、本当に重要なのは物理的な住所だけではありません。入力、検索用データ、会話履歴、ログ、モデルの重みへ誰が触れられるか。更新をいつ受け入れ、停止時にどう復旧するか。こうした制御権まで含めて初めて、社内で動かす意味が生まれます。
データが外へ出ないことと外から触れないことは違う
データを国内や社内へ保存していても、海外の運用担当者が管理できる、障害時の遠隔接続が残る、利用ログが別の地域へ送られるなら、組織が求める主権を満たさない場合があります。逆にクラウドでも、暗号鍵を利用者が管理し、運用者と法域を限定し、監査記録を残せるなら、厳しい要件へ近づけられます。
つまり「オンプレミスかクラウドか」は入口にすぎません。保存場所、処理場所、運用主体、法的支配、技術的な退出可能性を分けて確認する必要があります。生成AIをめぐる米中の地政学的な分断が企業へ及ぼす影響も、モデルの国籍だけでなく、この運用鎖を追うと見えやすくなります。
小さなモデルと社内検索の組み合わせが実用を広げる
企業が毎回、世界最大級のモデルを自前で学習する必要はありません。業務では、社内規程、製品マニュアル、契約書などを検索して、根拠とともに回答するRAGが有効です。RAGは必要な文書をその都度探してモデルへ渡す仕組みで、モデルそのものへ全知識を詰め込む方法とは違います。
NTTの軽量モデル「tsuzumi 2」は、単一GPUで推論でき、オンプレミスやプライベートクラウドで運用できるとされています。東京通信大学は学生・教職員データを学内ネットワークへ置く環境で採用しました。NECも国産LLM「cotomi」を搭載したアプライアンスサーバを提供しています。これはローカルAIが研究用の工作から、保守込みで購入できる業務設備へ移りつつある兆しです。
安さはトークン単価ではなく稼働率で決まる
クラウドAIは使った分だけ支払いやすく、最新モデルへ素早く移れます。自社運用は一定量を超えると割安になる可能性がありますが、機器を遊ばせれば高価な暖房器具になりかねません。比較すべきなのは一回の回答価格ではなく、数年分の総保有費用です。
自社運用には見えにくい固定費が並ぶ
GPUサーバーの購入費だけを見て導入を決めると、運用段階で予算が崩れます。電力と冷却、ストレージ、冗長化、監視、セキュリティ更新、モデル評価、故障部品、担当者の確保まで必要です。さらにモデルは陳腐化します。三年使う前提の機器が、一年後の業務要件を満たす保証はありません。
- 機密度と応答時間から、ローカルへ置く業務を限定する
- 一日の要求数、文章量、同時利用者数から必要性能を測る
- 機器、電力、冷却、人件費、更新費を三年から五年で比較する
- 繁忙時だけクラウドへ逃がせる構成を試す
この順序なら、安心感だけを理由に巨大設備を買う失敗を避けられます。利用量が小さく変動する会社はクラウドが有利になりやすく、毎日大量の定型処理を行い、機密データを扱う会社ほど自社設備の稼働率を上げやすいでしょう。損益分岐点はモデル、電力料金、保守体制で変わるため、万能な月額ラインは存在しません。
電力と冷却は情報システム部門だけの話ではない
米エネルギー省のデータセンター電力評価は、米国のデータセンターが2023年に全電力の約4.4%を消費し、2028年には6.7%から12%へ達する可能性を示しました。これは大規模施設の推計ですが、企業がGPUを各拠点へ分散させれば、受電容量、空調、非常電源の制約が小さなサーバー室にも降りてきます。
NVIDIAの企業向けオンプレミスAI基盤は、GPUだけでなくネットワーク、ストレージ、ソフトウェアを一体の設計として示しています。ここからも、ローカルAIが「パソコンへモデルを入れる」だけでは終わらないことが分かります。経営側はAI予算をソフトウェア費としてではなく、電力を使う生産設備として見る必要があります。
データ主権はクラウドにも国境をつくる
企業が自社AIを求める背景には、漏えい対策だけでなく、国際関係の変化があります。モデル、半導体、クラウド、通信回線が少数国と少数企業へ集中すると、料金改定やサービス終了に加え、輸出規制や法制度の衝突が事業継続へ響きます。
GPUとモデルへのアクセスは政策で変わり得る
米商務省の先端計算半導体に関する輸出管理は、安全保障を理由に高性能チップの供給経路へ制約を設けています。規則の対象や運用は変化しますが、企業にとって重要なのは、必要な計算資源が単なる市販品ではなく、政策の影響を受ける戦略物資になった点です。
自社にサーバーがあっても、交換用GPU、保守部品、更新ソフト、モデル配布元を一社へ依存すれば主権は弱いままです。複数モデルを動かせる共通基盤、標準形式で取り出せる社内データ、別環境へ復旧できる手順が必要です。データ主権の実体は、囲い込みではなく「必要なら移れる力」にあります。
ソブリンクラウドはローカルとクラウドの中間になる
クラウド企業も主権需要へ動いています。AWS European Sovereign Cloudは2026年に一般提供され、EU域内の独立したインフラと法主体、EU居住者による運用を掲げています。AI向けにはAmazon SageMakerやAmazon Bedrockも提供対象です。
一方、強い分離には代償があります。AWS自身が示すように、分離された区画では認証情報が共有されず、一部の地域間機能も使えません。主権を強めるほど、世界規模のクラウドが持つ機能の豊富さや復旧の自由度が狭まる場合があります。未来はオンプレミス対クラウドの二択ではなく、要件に応じて分離の強さを買う市場へ向かうでしょう。
| 動かす場所 | 得意な仕事 | 主な費用 | 見落としやすい弱点 |
|---|---|---|---|
| 一般クラウドAI | 最新モデル、変動需要、短期導入 | 利用量、通信、追加サービス | 料金変更、法域、事業者依存 |
| ソブリンクラウド | 規制業務、域内運用、監査 | 分離環境、運用保証、通信 | 機能差、地域間連携の制約 |
| 自社・専用環境 | 高機密、低遅延、定型大量処理 | 機器、電力、保守、人材 | 更新遅れ、遊休設備、内部不正 |
| ハイブリッド | 機密度に応じた振り分け | 二重運用、接続、監視 | 設計と責任分界が複雑 |
最も高価な方式が最も安全とは限りません。業務ごとに必要な境界を決め、その境界を越えるデータと権限を記録できるかが重要です。四つの方式を製品名で比べるより、会社が失ってはいけない制御権から逆算したほうが、選択はぶれにくくなります。
社内に置いても倫理と安全は自動化されない
情報が外部へ送られなければ、従業員や顧客は安心できるのでしょうか。むしろ社内文書を横断できるAIは、従来なら別々の部署に閉じていた個人情報、評価、相談、健康、取引履歴を一度に結び付けます。外部流出を防ぐほど、内部で見えすぎる問題が大きくなることがあります。
学習させない設計と見せない権限は別に必要になる
個人情報保護委員会の生成AI利用に関する注意喚起は、入力情報が提供者の学習へ使われる場合、個人データの第三者提供に当たり得る点を示しています。ローカル運用なら第三者への送信を減らせますが、利用目的、閲覧権限、保存期間、削除手順まで自動的に適法になるわけではありません。
RAGの検索権限が元文書より広ければ、AIが機密を親切に要約してしまいます。モデルへ再学習させない設定にしても、会話ログへ個人情報が残れば別の危険が生まれます。元文書のアクセス制御を引き継ぎ、回答時にも利用者の権限を確認し、不要なログを消せる仕組みが欠かせません。
説明できる運用が従業員監視との境界をつくる
社内AIがメール、会議、作業記録を読めば、引継ぎや検索は楽になります。その同じ仕組みで、発言傾向や仕事の速さを本人の知らないところで評価することも可能です。OECDの透明性と説明可能性の原則は、職場を含め、人がAIと関わっていることを知らせ、影響を受けた人が結果を理解し異議を申し立てられる情報を求めています。
- 目的：検索支援と人事評価を同じデータ利用へ混ぜない
- 権限：元文書より広い情報をAIが返さないようにする
- 記録：誰が何を尋ね、どの文書を参照したか追跡する
- 異議：AIの回答や評価を人へ確認し訂正できるようにする
- 終了：モデル、ログ、検索索引からデータを削除できるようにする
経済産業省・総務省のAI事業者ガイドライン第1.2版も、リスクの程度や資源制約へ配慮しながら、ガバナンスを継続的に見直す考え方を示しています。設備を社内へ入れる判断は、管理責任も社内へ戻す判断です。サーバー室の扉より、利用目的と権限の扉のほうが重いのです。
5年後10年後はAIの置き場所を意識しなくなる
ローカルLLMが広がっても、社員が毎回「この質問は社内サーバーへ」と選ぶ未来は使いにくいでしょう。機密度、目的、遅延、費用を判断し、最適なモデルへ自動で振り分ける制御層が前面に出ます。利用者が見るのは一つの窓口でも、背後では複数のAIが仕事を分担します。
2031年ごろはAIルーターが標準になる
2031年ごろには、公開情報の要約は高性能なクラウド、顧客情報を含む照会は社内モデル、工場の即時制御は現場のエッジAIという振り分けが一般化すると見ています。回答精度だけでなく、送信してよいデータか、費用上限を超えないか、監査記録を残せるかを確認してから実行するAIルーターです。
NISTのAIリスク管理フレームワークが示すように、リスク管理は一度の認証ではなく、状況に合わせて測定し管理する循環です。モデルを置く場所も固定した設備区分ではなく、業務リスクに応じて更新される方針になります。調達部門はモデルの精度表だけでなく、退出手順と代替先まで契約するようになるでしょう。
2036年ごろは社内AIが電気や認証に近い基盤になる
2036年ごろには、社内AIは特定製品というより、電気、ネットワーク、社員認証に近い共通基盤になる可能性があります。部署ごとに別のチャットを契約するのではなく、共通の権限と監査の上で、軽量モデル、専門モデル、海外クラウド、国産モデルを差し替えて使う形です。
欧州ではEU AI Actの汎用AIモデルに関する義務が2025年に適用を始め、技術文書、著作権方針、学習内容の概要などが求められています。制度が積み重なるほど、企業はモデル名より、どの法域のどの証跡を引き継げるかでAIを選ぶようになります。国産モデルも、国産という看板だけでなく、更新能力、評価の透明性、半導体と電力の持続性で判断されるはずです。
この未来が外れるとすれば境界の維持費が高すぎるとき
予測が外れる条件もあります。小型モデルの性能が業務水準へ届かない、GPUと電力の費用が下がらない、複数環境の監視が複雑すぎる、クラウド側の秘密計算や契約保証が十分に進み自社運用の利点が薄れる場合です。また、社内データの整理と権限管理が進まなければ、どこでモデルを動かしても正確な回答は得られません。
会社が次に確認すべきなのは「ローカルLLMを買うか」ではなく、「どの情報だけは、誰の管理下から出せないか」です。その答えが決まれば、クラウドへ任せる仕事も、自社へ戻す仕事も見えてきます。未来の社内AIを強くするのは、すべてを囲う高い壁ではなく、必要な場所に正しく開閉できる扉でしょう。
