最も重要なAIスキルは「使わない判断」、『ハイブリッド設計』のすすめ――AIエージェント時代の選別の規律

AIを入れるほど弱くなる？『AIを使わない』という設計判断――成果を出すシステムは「知性の配置」で決まる

1. 導入：「とりあえずAIエージェントで」の罠

最近、こんな会話をよく聞きます。

「この業務、AIエージェントにやらせればいいんじゃない？」

......気持ちはわかります。
今は何でもAIでできそうに見えますから。

でも、少し立ち止まって考えたいのです。
AIは魔法ではありません。
ほかの技術選定と同じで、精度、コスト、複雑さ、そしてリスクのトレードオフがあります。

先日、[AIを使わないべき場面を見極める：AIエージェント vs ルール vs 機械学習]

（[　https://www.youtube.com/watch?v=_ZqSFVi6UDY　]）という動画を見ました。
テーマは「いつAIを使わないべきか」。
とても腑に落ちる内容だったので、自分なりに整理してみます。

うまくいっているシステムほど、実は「AIを使わない部分」を慎重に決めている――。
今回はそんな話です。

AIを「入れること」より、「どこに入れないか」のほうが設計の腕が出る。

2. 4つの知性は「進化の階段」ではない

よくある勘違いがあります。

人手 → ルールベース → 機械学習 → 生成AI

この流れを「古いものから新しいものへのアップグレード」だと思ってしまうことです。

でも、これは階段ではありません。
それぞれ役割の違う、独立した道具です。

ドライバーが新しくなったからといって、金づちがいらなくなるわけではない。
それと同じです。

「最新が最良」を捨てて、タスクに合った知性を選ぶ。これが出発点です。

3. 計算とセキュリティに、AIはいらない

たとえば、クレジットカードの残高チェック。
ここにAIモデルを挟んだらどうなるでしょう。

......正直、怖いですよね。

支払い処理、セキュリティ、アクセス制御。
こうした領域に必要なのは「決定論的」な動作です。
同じ入力なら、いつでも必ず同じ結果が出ること。

「もしXならYをする」と書けるなら、普通のコードに勝るものはありません。

• 速い
• 安い
• デバッグしやすい
• スケールしやすい

一方、AIは本質的に非決定論的です。
同じ質問でも、答えが揺れることがあります。
それは文章を書くときには長所ですが、残高チェックでは欠点でしかありません。

ロジックが書けるなら、コードで書く。わざわざ揺らぎを持ち込まない。

4. 責任を取れるのは、人間だけ

採用の最終判断。
医療診断。
法律の解釈。
会社の命運を左右する投資判断。

こうした「ハイステークス」な領域では、人間が主導権を持ち続ける必要があります。

人間が優れているのは、処理の速さではありません。
曖昧さに向き合えること。
例外的なケースで、文脈を読めること。
そして何より――責任を取れることです。

うまくいかなかったとき、「AIがそう言ったので」では済みません。
責任を負うのは、実在する人間です。

AIは職務経歴書のスクリーニングを速くしてくれます。
でも、その人がチームに合うかどうかの判断までは任せられません。

人間の判断は遅くて、コストもかかります。
それでも、システムの信頼性を支える最後の保険なのです。

速さではなく「責任」が必要な場所には、人間を置く。

5. 生成AIに計算を丸投げしない

これは現場でよく見かけます。

「年間の支出を分析して」と言って、数千件の取引データをそのままLLMに投げ込む。

......それ、危ないです。

LLMの強みは、非構造化データを読み解いて、まとめて、言葉にすることです。
精密な計算や、構造化データの統計分析は本来の得意分野ではありません。
もっともらしい間違い（ハルシネーション）が混ざるリスクもあります。

最近のAIエージェントは、計算をコード実行ツールに任せることもできます。
つまり正解は「LLMに計算させる」ではなく、「LLMにはコードを呼び出させる」。
計算そのものは、やはりコードの仕事です。

もう一つ、コストの問題もあります。
生成AIは、使う量が増えるほど費用がかさみます。
最初は生成AIで作った機能を、規模が大きくなったらルールベースや専用のMLモデルに置き換える。
これは後退ではなく、ROIを上げるための合理的な判断です。

生成AIは「ジェネラリスト」。計算は専門家（コード）に任せる。

6. 勝ち筋は「ハイブリッド」

では、どう組み合わせるのか。
支出分析システムで考えてみます。

生成AIの汎用性を、コードとMLでしっかり囲い込む。
最後の判断は人間が持つ。

これが今の「ゴールドスタンダード」だと思います。

本番でプロジェクトがつまずく原因は、モデルの精度不足とは限りません。
そもそも「どの知性を使うか」の選択を間違えていることが多いのです。

AIは主役ではなく、チームの一員として配置する。

7. 明日からできる：「知性の割り振り」チェック

次のプロジェクトを始める前に、タスクを一つずつ、この順番で見てみてください。

1. 人間を置くべきか？
   　判断、倫理、経営責任、強い曖昧さを伴うなら、人間。
2. ルール（コード）で書けるか？
   　ロジックが明確で、正確さが必須なら、コード。
3. 機械学習を使うべきか？
   　過去の構造化データから、パターンや予測を出したいなら、ML。
4. 生成AIを使うべきか？
   　非構造化データの解釈や、柔軟な生成が必要なら、生成AI。

ポイントは、生成AIを「最後に」検討することです。
上の3つで済むなら、そのほうが速く、安く、確実です。

迷ったら、生成AIは最後の選択肢に。

8. 結論：AI時代に必要なのは「選別の規律」

強力なツールが、誰でも手軽に使えるようになりました。
だからこそ、全部を自動化したくなる誘惑も強くなっています。

でも、システムの堅牢さとビジネスの価値を決めるのは、
「あえて使わない」と言える規律なのだと思います。

私自身、AIエージェントの記事をたくさん書いてきました。
その立場で言うのも変ですが......
AIを本気で使いこなすほど、「ここはAIじゃない」という線引きが大事になってきます。

最も重要なAIスキルは、いつAIを使わないべきかを知ること――。

あなたの次のプロジェクトで、AIを「使わない」部分はどこですか？