【AIの現在地】ビジネスで必須となる2つのフェーズ：「学習」と「推論」

「作る」と「使う」というプロセスの決定的な分離

実務においてAIのシステム導入を検討・推進する際に、必ず押さえておかなければならない技術的・投資的な大前提があります。精度向上を目指すあまり「自社固有の業務を自動化するために、一から独自のAIを作らなければならない」という思い込み（バイアス）に囚われてしまうと、プロジェクトは高い確率で頓挫します。

このバイアスを回避するための大前提として、AIの動作原理には「学習（トレーニング）」と「推論（インファレンス）」という、目的もコスト構造も全く異なる2つの明確なフェーズが存在することを正しく認識しなければなりません。

莫大なデータとエネルギーを投じる「学習（トレーニング）」の本質

最初のフェーズである「学習（トレーニング）」とは、コンピュータに膨大なデータを与え、AIの脳（モデル）を構築し、パラメータを最適化するプロセスを指します。

人間に例えるならば、学生が勉学し、教科書や過去の試験問題を繰り返し反復して、知識体系や世界の論理規則を自らの頭脳に叩き込んでいく「勉強の期間」に相当します。

現在世界を席巻している生成AIと同規模のAIを作ろうと思うのであれば、この学習プロセスには天文学的な計算パワーが要求されます。インターネット上の数十億、数兆におよぶ言葉や画像を読み込み、モデル内のパラメータを最適化するためには、大量のGPU（Graphics Processing Unit：画像処理半導体）を搭載した巨大データセンターをフル稼働させて、数週間から数ヶ月にわたり連続で計算処理を実行し続けなければなりません。これには、半導体の調達費用に加え、数千万円から数億円規模の電気代が固定費でがかかります。この学習フェーズは「AIモデルの地頭の良さ」を決定づけるプロセスであり、事実上、資金力のある少数のプラットフォーマーだけが参入できる巨額投資競争の領域です。

現場の実運用で価値に転換される「推論（インファレンス）」の役割

一方で、私たちが日々関与し、自社のランニングコストとして直面するのは、もう一つのプロセスである「推論（インファレンス）」です。

推論とは、学習を十分に終えて完成した賢いAIモデルに対して、新しい未知のデータ（ユーザーからの具体的な質問やインプット）を与え、瞬時に予測結果や生成された回答という「出力」を得るプロセスです。

同じく人間に例えるならば、勉強を終えた秀才が試験本番で目の前の問題を解き、解答を導き出す「本番の瞬間」に相当します。すでに脳（基盤モデル）は完成しているため、一から勉強し直す必要はありません。与えられた問いに対して、これまでに築いた知能のネットワークを素早く通り抜けさせ、最適な解を導き出します。

学習は「初回」もしくは「その後のモデル更新のタイミング」に起きる巨大な「投資」です。一方で、推論はユーザーがAIを利用するたびに「24時間365日」発生し続ける実質的なサービスを維持するための費用、すなわち「変動費」となります。

クラウドとエッジにおける推論の実行要件

実務においてこの推論プロセスを安定運用するにあたっては、応答速度（レイテンシー）、1回あたりのAPI利用料（計算コスト）、およびデータの機密性を保護するセキュリティ要件の3つがトレードオフの関係になります。

特に、機密性の高い個人情報や企業の知財を扱う業務において、外部のパブリッククラウド上のAIモデルに都度データを投げて推論を実行することは、セキュリティポリシー上の重大なリスクとなり得ます。

こうした背景から、先進的なユーザー企業では、基盤モデルよりも軽量な「小規模言語モデル（Small Language Model：SLM）」を、「NPU（Neural Processing Unit：AIの処理に最適化された専用プロセッサ）」を搭載したサーバーや個人のパソコン（AI PC）などローカル環境で直接動かす選択肢が浮上します。インターネットから完全に遮断されたセキュアな環境で、超高速かつ通信遅延ゼロで推論を回す配管を構築することが、実用的なインフラ最適化の鍵を握るのです。

【募集開始】ITソリューション塾・第53期

10月7日(水)開講

AI時代を生き抜くための最新ITトレンドとビジネスの常識を手に入れる

「AIをどう使えばいいのか？」

いまなお、この問いに留まっているとすれば、AIの本質は、まだ見えていないのかもしれません。

18世紀後半の産業革命、20世紀半ばのIT革命。これらは、新しい技術が暮らしを便利にし、生産性を高めただけではありません。社会の仕組みや制度、働き方や雇用のかたち、ビジネスの常識、そして人々の生き方にまで及び、世の中を根底から変えてしまいました。

私たちはいま、AI革命の只中にいます。AIを数ある道具のひとつとして扱い、「どう使うか」を考えている限り、その真価を引き出すことはできないでしょう。問いは、すでに変わっています。

「AIで、ビジネスは、社会は、どう変わるのか？」

この問いに答えを持たないまま、システムを提案し、要件を定め、投資を判断する。それは、地図を持たずに航海に出るようなものです。

ITソリューション塾は、2008年の開講以来、約5000人の卒業生を送り出し、今年で18年目を迎えます。ユーザー企業の情報システム部門やDX推進の担当者、IT企業の営業やエンジニア、経営に携わる方々。立場は違っても、「ITの現在地を体系的に掴みたい」という思いは同じです。

この塾では、技術の名前を並べて覚えるのではなく、その背後にある仕組みと潮流を読み解きます。AIやクラウド、アジャイルやDevOpsといった個々のテーマが、なぜいま重要なのか、互いにどうつながっているのか。そのつながりが見えたとき、ニュースの見え方も、お客様との会話も、明日の判断も変わります。講師は、第一線の現場で今まさに実践している人たちです。教科書にはない、生きた知見をお伝えします。

そして、最後にもうひとつの問いを、皆さんとともに考えたいと思います。

「AIで、自分をどう変えるのか？」

技術の変化を眺める側にいるのか、変化を起こす側に立つのか。10週間後、その答えを自分の言葉で語れるようになっていただくこと。それが、この塾の目指すところです。

===

日程　初回 2026年10月7日(水)〜最終回 12月16日(水)　毎週18:30〜20:30
※11月10日(火)のみ火曜開催
回数　全10回＋特別補講
定員　120名
会場　オンライン
料金　¥90,000-（税込 ¥99,000）
全期間の参加費と資料・教材を含む

※詳細はこちらをご覧ください。

『AI実践ドリル30日チャレンジ 仕事にすぐ効くAI活用』（日経BP）を紹介する連載が、日経クロステック（xTECH）に掲載されました。

第1回　ビジネスパーソンが生成AIの有償版を使うべきである理由
第2回　「事業変革推進室長」として生成AIで新規事業を企画する
第3回　AIの「魔法」をメール作成と悩みの「壁打ち」で体感
第4回　新規事業の「3段階の自立シナリオ」をAIで描く
第5回　AIにいきなり「斬新なアイデア」を求めるのは避けよ

本書は、これまでのAI本とは毛色が異なり、新規事業開発やマーケティングの実践ノウハウを、AIを使いながら体験的に学べる「ドリル」です。

AIの使い方を解説するのではなく、実際のビジネスの現場でどう使いこなし、新しい価値を生み出せばいいのかを、手を動かしながら身につけていただけます。

「AIをどう使うか」に留まっている限り、AIの真価は引き出せません。「AIでどう変わるか」、すなわちAIを前提として、仕事のやり方をどう変えればいいのか。それをお伝えしたくて書いた本です。まだの方は、ぜひご一読ください。

どうぞよろしくお願いいたします。