GPU専用チップの台頭　後編

前編ではGPUとは何か、なぜ必要かを解説しました。後編では、もはや選択肢は、GPUだけではないことについて解説します。

NPUとLPU：なぜGPUだけの時代が終わるのか

これまで、AIの学習にも推論にも、主にNVIDIA（エヌビディア）社が市場を独占するGPUが使われてきました。しかし、GPUはもともと3Dコンピュータグラフィックスの複雑な映像描写を行うために開発された汎用の並列プロセッサです。「学習」の作業にはその万能性が不可欠でしたが、決まった回答パターンを素早く返すだけの「推論」にまで高価で大食いなGPUを使い続けるのは、エネルギーの観点からもコストの観点からも極めて非効率です。

こうした背景から、推論に特化することで圧倒的なパフォーマンスと省電力を追求した「専用のAIチップ」が急速に頭角を現しています。その代表格が「NPU」と「LPU」です。

NPU（Neural Processing Unit）は、推論処理を少ない電力でこなすために設計された半導体です。スマートフォンではすでに当たり前の存在となり、いまはノートPCへの搭載も広がっています。

その強みは、処理速度そのものよりも電力あたりの効率にあります。かつては音声認識や画像処理でさえクラウドの巨大なサーバーに送らなければ処理できませんでしたが、いまは手元の機器の中で完結させられます。通信の遅延がなく、データを外に出さずに済み、電波の届かない場所でも動く。クラウドに送るという前提そのものが、必要な場合に限られていきます。

一方、クラウド側で生成速度の常識を変えたのが、LPU（Language Processing Unit）です。文章の生成は、前の語が決まらなければ次の語を決められない逐次的な処理です。膨大な計算を同時並行でこなすGPUの強みが、ここでは活かしきれません。しかも最大のボトルネックは演算そのものではなく、プロセッサとメモリのあいだを行き来するデータの転送にあります。LPUは、容量は小さいものの極めて高速なメモリを演算回路と同じチップ上に載せ、さらに処理の順序をあらかじめ確定させる設計とすることで、この待ち時間を大幅に削りました。GPUと比べ、アーキテクチャの面でエネルギー効率は最大10倍とされています。

学習にはGPUの圧倒的な並列計算力が要ります。しかし推論に必要なのは、一回の答えをいかに速く、いかに少ない電力で返すかです。求められる性能が違えば、最適な半導体も違ってくる。手元の機器にはNPU、クラウドにはLPUと、用途に応じて計算の担い手が分かれていく流れが、いま始まっています。

ビジネスパーソンに求められる「インフラ調達・運用戦略」の視点

このようなハードウェアの多様化と進化は、ビジネスの現場にどのような変革を迫るでしょうか。ここで問われるのが、インフラのコスト構造と特性を見極める能力です。

第一に、インフラ調達コストの最適化です。全てのAI業務を高性能なGPUクラウドに依存させるのは、経営資源の無駄遣いと言えます。大量の定型業務を低コストで回したいのであれば、推論に特化したLPUのクラウドインスタンス（仮想サーバー）を利用したり、手元のエッジPCに内蔵されたNPUをフル活用したりすることで、月々のクラウド利用料を抑制できます。

第二に、「ローカル」と「クラウド」の適切な配管の設計です。例えば、機密性の極めて高い個人情報や企業の財務データを処理する際は、クラウドにデータを一切送信せず、社内のPCに搭載されたNPUの内部だけで推論処理を完結させる「ローカルAI」の構成を選択します。一方で、極めて複雑な推論能力や多量のデータ処理を必要とする大局的な分析タスクには、クラウド上の最高性能プラットフォームへとリクエストを投げる設計を施します。このように、ハードウェアの特性を理解してシステム全体のデータの流れを交通整理する視点が、これからのシステム投資戦略において欠かせません。

インフラ投資を最適化する仕組みの理解

AI技術の進化スピードに目を奪われがちですが、その物理的な土台を支えるプロセッサの進化ロードマップを把握しておくことは、自社のシステム投資が数年後に陳腐化することを防ぐ最大の防衛策となります。

「学習には万能なGPUを借り、日常の推論には省電力なNPUを配管する」

このシンプルなインフラ戦略の引き出しを持っているかどうかが、企業のデジタル変革におけるコストパフォーマンスと競争力の差となって現れます。ハードウェアを単なる「スペック」の比較で終わらせず、自社の業務要件（セキュリティ、コスト、処理速度）と組み合わせた一つの有機的なシステムとして構築する考え方を取り入れていくことが大切です。

新著『【図解】コレ1枚でわかるAI戦略」

このたび新著『【図解】コレ1枚でわかるAI戦略　ビジネスパーソンが主導権を握るための「知識と思考」（11月11日　Amazon出荷）』を上梓いたしました。このブログで連載しているAIについての解説は、本書の原稿を基に執筆しています。

本書は、AIプロジェクトでビジネスパーソンが主導権を握るために、何を知り、どう考えるべきかを整理し、豊富な図解とともにわかりやすく解説したものです。初心者向けの手引きでもなければ、エンジニアのための技術書でもありません。その中間に位置する、これまで誰も本格的に向き合ってこなかったテーマに挑んだ1冊と自負しています。

AIに限らず、ITに関わる取り組みは本来、事業に責任を持つビジネスパーソンが主導権を握って進めるべきものです。しかし現実には、技術の難しさを理由に、ITベンダーやSI事業者に任せきりにしてしまうプロジェクトが少なくありません。とりわけAIプロジェクトは、従来のITプロジェクトにはない特異性や技術の急速な進化もあって、「専門家への丸投げ」に陥りがちです。これでは、事業の成果に結びつけることはできません。

そこで本書では、AIプロジェクトの責任を託されたビジネスリーダーが、専門家であるエンジニアと対等に議論し、プロジェクトの主導権を握れるように、AIに関わる技術を数式やプログラム・コードを使わず、概念として理解できるように解説しました。あわせて、AIプロジェクトに特有の法律や規制、プロジェクト管理といった実務実践に欠かせない知識も整理しています。

さらに、AIに関連する数学的知識をまとめた別冊（PDF版）と、本書の全図表（PPTX版・ロイヤリティ・フリー）を、オンラインからダウンロードいただけるようにいたしました。

また本書は、AIプロジェクトをユーザー企業に提案するITベンダーやSIerの皆さんにも、お役に立つはずです。人月ビジネスの前提が崩れつつあるいま、お客様の事業に寄り添う力はこれまでにも増して求められ、AIはそのための「前提」となりました。一方で、AIプロジェクトには従来のITプロジェクトにはない特徴があり、これを理解しないままに取り組めば、お客様をミスリードしかねません。そうならないための知識を得ていただく一助にもなると思います。

今年6月に上梓いたしました『AI実践ドリル30日チャレンジ』（日経BP）が、AIを使って新たなビジネス価値を生み出す「個人のスキル」を磨くための本だとすれば、本書は、企業がビジネスとしてAIプロジェクトに取り組む「組織のスキル」を知るための本です。

既存の業務手順やビジネスモデルを前提に「AIで何ができるか」を考えるのではなく、AIを前提に既存を新しく作り直す、すなわち「AIでどう変わるか」という視点で実務実践に取り組む皆さんを支えたい。2冊に共通するのは、そんな思いです。あわせてご覧いただけますと幸いです。

AIは「使うと便利なもの」から「使うことが前提のもの」へと、その位置づけを変えました。そこに求められるのは、仕事の効率を上げるための「個人のスキル」にとどまらず、業績に貢献する「組織のスキル」です。本書は、その「知識と思考」を提供する1冊です。

AIは使っているものの、働き方が大きく変わった、会社が変わりつつある、そんな実感がなかなか持てない。もし、そんなモヤモヤしたものがあるのなら、ぜひ、本書を手に取ってください。

本書の目次

第1章：AIの現在地〜人間とテクノロジーの役割を再定義する

• テーマ1：そもそも「モデル」とは何か？
• テーマ2：生成AIの根幹「基盤モデル（ファウンデーションモデル）」
• テーマ3：AI、機械学習、ディープラーニング、生成AIの「包含関係」
• テーマ4：ビジネスで必須となる2つのフェーズ：「学習」と「推論」
• コラム1：「AGI」とは何か？
• テーマ5：AI進化の歴史〜「識別型」から「生成型」、そして「自律型」から「AGI」へ
• コラム2：「身体性を持ったAGI」へのロードマップ
• テーマ6：AIの強みと限界
• テーマ7：AI開発で鎬を削る、巨大企業たち
• テーマ8：AIの現在地と、ビジネスにおける「AI」の再定義
• テーマ9：人間との協働モデル〜AIに任せてはいけないこと
• コラム3：「センス」と「利他の精神」が羅針盤

第2章：業務への組み込みと自律型AI（Agentic AI）の実装

• テーマ1：プロンプトエンジニアリングの本質は「指示の構造化」にある
• テーマ2：自社独自の知識をRAGでAIに付与する
• テーマ3：ファインチューニングによりモデルを「専門家化」する
• テーマ4：AIaaSによるスピード導入の定石
• コラム1：タスクを各モデルへ自動で割り振る「AIモデルルーター」
• テーマ5：自律型AI（Agentic AI）の出現と動作原理
• コラム2：4段階のAI×ビジネス活用
• テーマ6：複数エージェントの協働（マルチエージェント）と新標準規格MCP
• テーマ7：AI組み込みによる次世代ユーザー体験（UX）の設計思想
• テーマ8：ノーコード・ローコードAIツールの実務価値とセキュリティガバナンスの限界

第3章：第3章：開発最前線とAIインフラの進化

• テーマ1：Transformer（トランスフォーマー）はなにが革命的だったのか
• テーマ2：リーズニングモデル（推論強化モデル）の衝撃
• テーマ3：推論専用チップの台頭
• テーマ4：小規模言語モデル（SLM）とローカルモデル（AI PC）がもたらす自律分散型インフラ
• テーマ5：バーティカルAI（特化型モデル）の選択基準
• テーマ6：E2Eマルチモーダルモデルによるリアルタイム対話の進化
• テーマ7：説明可能なAI（XAI）の実務上の要求
• テーマ8：現実世界の物理法則を予測・理解する「世界モデル」
• テーマ9：物理空間で自律駆動する「フィジカルAI(ロボティクス)」への接続

第4章：AIプロジェクトの企画と推進

• テーマ1：AIプロジェクトの全体像は、課題から逆算せよ
• テーマ2：自社の課題を発見する「業務機能別ユースケースの見取り図」
• テーマ3：AI推進チームに必要な3つの役割（ビジネス、データ、エンジニアリング）
• テーマ4：全社的なAIリテラシー向上のための「リスキリング戦略」
• テーマ5：死の谷に陥らないためのPoC（概念実証）の進め方
• テーマ6：RFP（提案依頼書）に絶対に盛り込むべきAI特有の要件
• テーマ7：AIプロジェクト特有のコスト構造とROIの正しい見積もり方
• コラム1：生成AIサービスの料金モデル：仕組みと賢い使い分け
• テーマ8：生成AI導入の4大アプローチとベンダー評価軸
• テーマ9：AIの精度を決める「良質なデータ」の条件とデータ・サプライチェーン
• テーマ10：開発手法のベストプラクティス(SaaS利用 vs API連携 vs 独自モデル構築)
• テーマ11：システム開発を再定義する「AI駆動開発」と内製化モデル
• テーマ12：導入を成果に変える「定着マネジメント」〜 死の谷の先にある「定着の谷」
• テーマ13：AIプロジェクトの全体を俯瞰しその進め方を整理する

第5章：リスク回避のためのAIガバナンス

• テーマ1：企業として備えるべき基本のAIルール「社内AI利用ガイドライン」の作り方
• テーマ2：生成AIと著作権〜実務的な対処法
• テーマ3：情報漏洩リスクとセキュリティ対策〜クラウド利用とローカルモデルの使い分け
• テーマ4：AIのバイアスと公平性の問題〜企業のブランドリスクへの対応
• テーマ5：国内外のAI法規制の全体地図〜ルールを「設計要件」として読み解く
• テーマ6：ディープフェイクと偽情報〜「攻撃される側」のリスクへの防衛
• テーマ7：業務の効率化から「事業の再設計」へ〜AIが変えるビジネスモデル
• コラム1：AI主権とは何か