ローカル生成AIの最新動向。企業と日本はどうするか？
最近、「ローカル生成AI」という言葉を新聞でもよく見かけるようになりました。
日本は官民挙げて戦略的に取り組まないと、かなりヤバい状況に陥ると思います。
しかし、そもそもローカル生AIが何か、よくわかりませんよね。そこで解説したいと思います。
ちなみにこれは、『永井経営塾』で2026年9月にリリースした最新キーワード解説「ローカル生成AIの最新動向」からの抜粋です。42分の講義ですが、その中からハイライト紹介します。
あなたのPCでも、AIは動く
ローカル生成AI(以下ローカルLLM)は、あなたのパソコン上で動きます。
図は、私のパソコン(Macbook Pro 2023)で、Qwen3.8:27BというAIモデルを動かした結果です。
これは結構複雑な質問で、家電メーカー「シャーク」の競争戦略を「5つの力」と「バリューチェーン」の視点で分析した上で、10通りの戦略を出力する課題です。
人間で考えてもなかなか大変ですが、164.2秒でちゃんとした回答が得られました。
1台のMacbook Proで実行したので時間はかかりますが、回答品質は驚くほど高いものです。おそらくひと昔前のChatGPT 3.5/4.0を超えるレベルの回答だと思います。
ちなみにここで使ったAIモデル「Qwen」は、中国のアリババが開発したAIモデルです。
「中国のAIを自分のPCで動かすなんて、情報漏洩は大丈夫?」と思うかもしれませんが、心配する必要はありません。
ローカル生成AIの仕組みがわかると、理解できます。
この環境では、OllamaというローカルLLMの実行環境で、AIモデルを動かしています。Ollamaはいわば、ローカルLLMの手や目、耳、口に相当するもので、ユーザインターフェースや外部ネットワークとのやり取りを行います。
しかしOllama自身は、大脳にあたるAIモデルは持ってません。
この大脳に相当するAIモデルは、GoogleやMeta、中国のアリババやMoonshot AIが提供しています。AIモデルは大脳なので、外部とのやりとりは行わず、ローカルLLMの実行環境(この場合はOllama)に任せているのです。
だから、アリババのQwenを使っても、情報漏洩は発生しないのです。
では、ローカルLLMとはそもそも何でしょうか？
ローカルＬＬＭ vs. クラウドＬＬＭ
図は、ローカルLLMとクラウドLLMを比較したものです。
ポイントを絞って説明すると、
・私たちが使っているクラウドLLM(ChatGPT、ジェミニ、Claudeなど)の最新モデルは非常に高性能ですが、社外情報漏洩のリスクがありますし、トークン量に比例してお金もかかります。
・ローカルLLMは、社内に導入できるので、社外情報漏洩のリスクは最小限に留められますし、自社サーバーに導入すれば使い放題です。一方で性能は、最新のクラウドLLMと比べると見劣りします。
企業にとっての悩みは、クラウドLLMのトークン使用量の増大で、AI使用コストが増加する一方で、機密情報を預けられないことです。ローカルLLMの性能は向上しており、多少の処理なら任せられますし、機密情報も社内の他システムと同等に管理できます。
このためローカルLLMは、企業の有力な選択肢になっています。
最新動向 ＡＩ ＰＣとＡＩサーバー
こうしたローカルLLMを使う上で必要なのが、パソコンやサーバーです。
AIモデルの性能を示す1つの指標が、パラメーター数です。パラメーター数は30B(30 Billion = 300億)とか1T(1Terra = 1兆)という単位で表現されます。
Macならば、パラメーター30B (300億)程度のAIモデルが動きます。
ちなみに私のMacbook Proで稼働させたAIモデル Qwen3.8:27Bは、270億パラメーターです。
GPUを1基入れたNVIDIA DGX Stationならば、100万円強で入手できます。
さらにGPUを72基入れたNVIDIA GB200 NVL72なら、1〜2T (1〜2兆パラメーター)クラスのAIモデルが動きます。これは5億円程度で入手できます。
つまり数億円程度をかければ、社内に生成AIの環境を作ることができる、ということです。大企業にとっては、現実的な選択肢なのです。
では、どんなAIモデルが世の中にあるのでしょうか？
最新動向 オープンウェイトＡＩモデル
世の中にある主なオープンウェイトAIモデルをパラメーター別にマッピングしたのがこの図です。
図だけを見ると米中が多いですし、欧州や日本もAIモデルを出していますが、中国は戦略的にオープンウェイトAIモデルに注力しています。
特に中国Moonshot AIが提供するKimi K3:2.8Tはパフォーマンスは十分で、「Anthoropic 2025年11月のモデルと同程度」と評価されています。
このために、企業での活用も進んでいます。
ライオンはQwenをベースに社内LLMを開発しています。
日本経済新聞のインタビューに対して「ネットにつながらないローカル環境でモデルを用いており、モデル自体の利用によるセキュリティー上の懸念はないと考えている」と述べています。(日本経済新聞 2026.8.31より)
さくらインターネットも、Kimiを提供することを発表しています。
中国AI企業の戦略は「まず徹底した低コストで利用者を広げて、市場を独占し、将来的に稼ぐ」というもの。
企業にとってローカルLLMは、クラウドLLMの問題点（高コストや機密情報漏洩）を解決してくれます。
経済な観点で、企業にとって中国のローカルLLMを導入する事は理にかなっているのです。
中国は国家レベルで、重点市場を見極め、国家として大量の資金を投入して、じっくりと長期的に赤字覚悟で育成して、生産量を世界で断トツに高めることで、経験曲線を生かしてコストを指数関数的に下げて、圧倒的な低コスト体質を獲得する、と言う戦略を繰り返し行っています。
中国は全く同じ戦略でレアアース、リチウムイオン電池、太陽光発電などの世界シェアを独占しました。次世代を担うEVでも同じ戦略を行い、成功を収めつつあります。
そして同じことを、AIでも行っているのです。
考慮点
我々はどのように考えるべきをまとめたおがこの図です。
補足すると、ローカルLLMの採用判断は、企業としての経済的合理性の判断になります。
一方で、中国のAI戦略に対する対抗は、国家としての経済安全保障の問題です。
しかし日本のAI戦略を見る限り、「フィジカルAI」や「データセンター構築」といった個別対策に重点が置かれていて、こうしたローカルLLMに対する国家レベルでの対抗戦略が十分に見えてきません。
私たちはこうした状況も踏まえながら、AI活用を考えていく必要があると思います。
以上、講義動画からハイライトをご紹介しました。
『永井経営塾』ではこうした最新動向のキーワード解説を毎月動画でお送りしています。
これからも『永井経営塾』のコンテンツの中から、ハイライトをご紹介していきたいと思います。