「ウソをウソと感じさせない能力」こそがLLMの危険性
ChatGPTに人生について相談してみました。
涙が出るほどありがたいアドバイスです。この言葉を励みに、前向きに生きていこうと思います。
さらに、私の仕事に関わることを質問してみました。
なるほどと感心します。しかし、このままでは、近い将来、ITトレンドに関する講義は、ChatGPTが、代わりにやってくれるかも知れません。動画生成AIと組み合わせれば、そのうち講師もやってくれるようになり、そうなれば人間である私の出る幕はなくなります。その時はまた、その後の人生について、ChatGPTに相談してみようと思います。
考えてみれば、意味や一般常識、文法などとは無関係に、言葉の出現確率に基づく言葉のつなぎ合わせだけで、これだけ流暢な表現を実現するというのは、驚くべきことです。
さて、次の文章は、2022年の東京大学の世界史の試験問題で、これをChatGPTで解かせてみました。これをやってみたのは、国立情報学研究所・社会共有知研究センター長・教授 新井紀子氏です。
「8世紀から19世紀までの時期におけるトルキスタンの歴史的展開について記述せよ。ただし、次のキーワードを使うこと。アンカラの戦い、カラハン朝、乾隆帝、宋、トルコ＝イスラーム文化、バーブル、ブハラ・ヒヴァ両ハン国、ホラズム朝」
ChatGPTは、この問題について、次のように回答しました。
なんと素晴らしい文章でしょうか。私のような世界史の常識に疎い人間にとっては、「なるほど、そういうことなのか、流石ChatGPT！」と感心します。
この回答を新井紀子氏が、世界史の先生に採点してもらったところ、「0点」だったそうです。「部分点を与えられる箇所がまったくないので驚いた」とのことでした。
ChatGPTをはじめとしたLLMの危険性は、まさにこの点にあるのだと、指摘されています。つまり、例え、回答が間違っていたとしても、その流暢な言葉遣いに、「なるほど」と納得してしまう人も多いということです。
この危険性の構図は、LLMだけのことではありません。SNSやネットに、フェイク・ニュースや根拠のない陰謀論が、流暢な文章表現で、もっともらしい根拠とともに流布されています。それらを疑うことなく信じている人たちが、沢山いるという現実です。
昨日のブログでも指摘しましたが、人間は結局のところ「言葉」に支配されているということなのでしょう。私たちは、言葉によって情報を得て、これを自分の知識の構造に言葉として組み入れています。言葉のつながりが論理的であり、ありがちな言葉のつながりがあれば、「違和感」という心理的抵抗を受けずに、すんなりと入り込んできます。
もし、この時に「意味」や「常識」を持っていれば、これが強力な違和感になって、受け入れを拒否するのでしょう。しかし、上記の「世界史の回答」のように、「意味」や「常識」がない者にとっては、これを「正しい」あるいは「正しそう」と受け入れてしまうわけです。そんな、「ウソをウソと感じさせない能力」こそが、LLMの危険性というわけです。
この危険性を回避するには、「安易に鵜呑みにしない」という、ありきたりの答えに行き着いてしまいます。これは、フェイク・ニュースや陰謀論についてもいえることで、結局のところ解決できない問題なのかも知れません。そうなると、人間側が知識を積み上げ、知性を磨く以外にないという、これまたありきたりの答えになるわけです。
ただ、これを別の視点で考えてみると、LLMをはじめとした生成AIの発展に右往左往して、危機だ、危険だと大騒ぎすることもないのだということになります。昔から言われていたこと、例えば、本を読みなさい、学び続けなさい、知識を積み上げ、知性を磨きなさいというという歴史的な規範に従って、粛々とやり続ければいいと言うことなのでしょう。
「AI効果（AI effect）」と言う言葉があります。AIの技術が浸透し、一般に広く受け入れられて、日常的に使われるようなると、もはやそれを「AI」とは呼ばれなくなる現象のことです。これは、AIだけのことではなく、かつて大騒ぎした「Big Data」もそうですし、そろそろ旬の時期を過ぎた「DX」も同様の運命をたどるのだと思います。当たり前になってしまえば、そんなことは、意識しなくなるということです。そして、それなりに使いこなしてしまうわけです。
ChatGPTが登場したのは、2022年の11月であり、１年も経っていないわけですし、DALL-E2やStable Diffusionなどの画像生成AIもこれほど注目されるようになったのは、ここ1年ほどに過ぎません。まだまだ当たり前でもなければ、常識にもなっていないので、AI効果が働いていないというわけです。
私たちは、いまこんな時期にいるのだという自覚こそが、この現実を冷静に受け止め、ここに述べたような危険性を回避する方法を見出すうえで、大切になるのでしょう。
> 関連記事：溶けるプログラマー・沸き立つエンジニア
自己研鑽をみんなで楽しむコミュニティ・MATO塾のご案内
5月13日（土）10:00〜12:00 8MATO塾・第2回
起業の不安を解消！ 成功のための税の知識
これから起業を検討している方、すでに起業した方にとって、税というトピックは避けて通れない重要なポイントのひとつです。しかし、税に関する知識がない、もしくは「難しい」と感じるがゆえに、不安を抱えている方も多いのではないでしょうか。
このセミナーでは、起業における税務について、基本的な知識を中心にわかりやすく解説します。
さらに、起業後の実践的なノウハウなど、成功に繋がる知識も紹介します。 ご興味のある方、不安や課題を解消したい方、参加をお待ちしています！
講師：税理士・田村良平／八ヶ岳税理士事務所
5月27日（土）10:00〜12:00 8MATO塾・第3回
八ヶ岳で働いて暮らそう！起業・複業の場所としての魅力と八ヶ岳での働き方について
八ヶ岳エリアで働きながら暮らしている実例も紹介し、地域での起業・複業について、その魅力や具体的な働き方についてお話しします。
近年八ヶ岳エリアは移住先として人気になっていますが移住検討者にとって大きな懸念となるのが仕事です。八ヶ岳移住者の働き方の実例を紹介することで移住後の働き方を具体的にイメージすることができます。
また、八ヶ岳で新しい自分に出会うプログラム、「ヤツクル」もご紹介します。ヤツクルは以下のような体験ができます。
- 日常を離れた八ヶ岳で自分の望むライフスタイルを「振り返る」
- 新しいライフスタイルを実践し、八ヶ岳で働き暮らす人と「交流する」
- 豊かな八ヶ岳の自然を利用したリトリート活動を「体験する」
八ヶ岳での自由で創造的なライフスタイルに興味を持っている方、ぜひご参加ください。
講師：玉利 裕重／ヤツナビ 八ヶ岳移住・ワーケーション情報
ワークスタイルが多様化し、働き方の選択肢もまた多様化しています。起業、移住、2拠点生活も、特別な時代ではありませんし、私も含めて、多くの皆さんがこれを実践しています。
でも、いざ自分のこととなると、本当にできるだろうかと不安を感じられる方は少なくないはずです。そんな皆さんの不安を埋めるお手伝いができるのではないかと思います。
【ご登録ください】LINEの公式アカウント作りました
【募集開始】次期・ITソリューション塾・第43期（5/17開講）
ChatGPTをはじめとした生成AIの登場により、ここ数ヶ月で、IT界隈の常識が一気に塗り替えられた気がします。スマートフォンの登場により、私たちの日常が大きく変わってしまったことに匹敵する、大きな変化の波が押し寄せているようです。ブロックチェーンやWeb3、メタバースといったテクノロジーと相まって、いま社会は大きく動こうとしています。
ITに関わる仕事をしているならば、このような変化の本質を正しく理解し、自分たちのビジネスに、あるいは、お客様の事業活動に、どのように使っていけばいいのかを語れなくてはなりません。
ITソリューション塾は、そんなITの最新トレンドを体系的に分かりやすくお伝えすることに留まらず、その背景や本質、ビジネスとの関係をわかりやすく解説し、どのように実践につなげればいいのかを考えます。
- SI事業者／ITベンダー企業にお勤めの皆さん
- ユーザー企業でIT活用やデジタル戦略に関わる皆さん
- デジタルを武器に事業の改革や新規開発に取り組もうとされている皆さん
- IT業界以外から、SI事業者／ITベンダー企業に転職された皆さん
- デジタル人材／DX人材の育成に関わられる皆さん
そんな皆さんには、きっとお役に立つはずです。
詳しくはこちらをご覧下さい。
- 期間：2023年5月17日(水)〜最終回7月26日(水) 全10回＋特別補講
- 時間：毎週（原則水曜日・初回のみ木曜日） 18:30-20:30 の2時間
- 方法：オンライン（Zoom）
- 費用：90,000円（税込み 99,000円）
- 内容：
- デジタル・トランスフォーメーションの本質
- ソフトウェア化するインフラとクラウド・コンピューティング
- DXの基盤となるIoT（モノのインターネット）と5G
- データを価値に変えるAI（人工知能）とデータサイエンス
- おさえておきたい注目のテクノロジー／Web3と量子コンピューティング
- 加速するビジネス・スピードに対処する開発と運用
- デジタル・サービス提供の実践
- クラウド／DevOps戦略の実践
- 経営のためのセキュリティの基礎と本質
- 総括・これからのＩＴビジネス戦略
- 特別補講 ＊講師選任中＊
==============================
第1回・8MATO塾を開講 4/29 土 10:00-12:00
デジタルとは何か ～ DXを語る前に先ずは「デジタル」の意味を知っておこう
https://8mato.peatix.com/view
==============================
ITの専門家でなくても分かるように、「デジタルとは何か」を解
デジタル・トランスフォーメーション（DX）、デジタル・ビジネ
・八ヶ岳南麓・標高1000mの森の中にあるコワーキングスペー
https://8mato.biz/
・オンライン（Zoom）デモご参加頂けます。
zoomのURLは、お申し込み後、改めてメールにてお知らせし
イベントへの参加費は無料ですが、8MATO会場にてご参加の場
お茶やコーヒー、設備や機材は、自由にご利用頂けます。延長でご
地元の食材や無添加に拘ったランチも用意しています。
【募集開始】新入社員のための「１日研修／1万円」・最新ITトレンドとソリューション営業
最新ITトレンド研修
社会人として必要なデジタル・リテラシーを手に入れる
ChatGPTなどの生成AIは、ビジネスのあり方を大きく変えようとしています。クラウドはもはや前提となり、ゼロトラスト・セキュリティやサーバーレスを避けることはできません。アジャイル開発やDevOps、マイクロ・サービスやコンテナは、DXとともに当たり前に語られるようになりました。
そんな、いまの常識を知らないままに、現場に放り出され、会話についていけず、自信を無くし、不安をいだいている新入社員も少なくないようです。
そんな彼らに、いまの常識を、体系的にわかりやすく解説し、これから取り組む自分の仕事に自信とやり甲斐を持ってもらおうと、この研修を企画しました。
【前提知識は不要】
ITについての前提知識は不要です。ITベンダー／SI事業者であるかどうかにかかわらず、ユーザー企業の皆様にもご参加頂けます。
ソリューション営業研修
デジタルが前提の社会に対応できる営業の役割や仕事の進め方を学ぶ
コロナ禍をきっかけに、ビジネス環境が大きく変わってしまいました。営業のやり方は、これまでのままでは、うまくいきません。案件のきっかけをつかむには、そして、クローズに持ち込むには、お客様の課題に的確に切り込み、いまの時代にふさわしい解決策を提示し、最適解を教えられる営業になる必要があります。
お客様からの要望や期待に応えて、迅速に対応するだけではなく、お客様の良き相談相手、あるいは教師となって、お客様の要望や期待を引き出すことが、これからの営業に求められる能力です。そんな営業になるための基本を学びます。
新入社員以外のみなさんへ
新入社員以外の若手にも参加してもらいたいと思い、3年目以降の人たちの参加費も低額に抑えました。改めて、いまの自分とこれからを考える機会にして下さい。また、IT業界以外からIT業界へのキャリア転職された方にとってもいいと思います。
人材育成のご担当者様にとっては、研修のノウハウを学ぶ機会となるはずです。教材は全て差し上げますので、自社のプログラムを開発するための参考にしてください。
書籍案内 【図解】コレ一枚でわかる最新ITトレンド 改装新訂4版
ITのいまの常識がこの1冊で手に入る，ロングセラーの最新版
「クラウドとかAIとかだって説明できないのに，メタバースだとかWeb3.0だとか，もう意味がわからない」
「ITの常識力が必要だ！ と言われても，どうやって身につければいいの？」
「DXに取り組めと言われても，これまでだってデジタル化やIT化に取り組んできたのに，何が違うのかわからない」
こんな自分を憂い，何とかしなければと，焦っている方も多いはず。
そんなあなたの不安を解消するために，ITの「時流」と「本質」を1冊にまとめました！ 「そもそもデジタル化，DXってどういう意味？」といった基礎の基礎からはじめ，「クラウド」「5G」などもはや知らないでは済まされないトピック，さらには「NFT」「Web3.0」といった最先端の話題までをしっかり解説。また改訂4版では，サイバー攻撃の猛威やリモートワークの拡大に伴い関心が高まる「セキュリティ」について，新たな章を設けわかりやすく解説しています。技術の背景や価値，そのつながりまで，コレ1冊で総づかみ！
【特典2】本書で扱うには少々専門的な，ITインフラやシステム開発に関わるキーワードについての解説も，PDFでダウンロードできます！
【図解】コレ一枚でわかる最新ITトレンド 改装新訂4版
2022年10月3日紙版発売
2022年9月30日電子版発売
斎藤昌義 著
A5判／384ページ
定価2,200円（本体2,000円＋税10%）
ISBN 978-4-297-13054-1
目次
- 第1章 コロナ禍が加速した社会の変化とITトレンド
- 第2章 最新のITトレンドを理解するためのデジタルとITの基本
- 第3章 ビジネスに変革を迫るデジタル・トランスフォーメーション
- 第4章 DXを支えるITインフラストラクチャー
- 第5章 コンピューターの使い方の新しい常識となったクラウド・コンピューティング
- 第6章 デジタル前提の社会に適応するためのサイバー・セキュリティ
- 第7章 あらゆるものごとやできごとをデータでつなぐIoTと5G
- 第8章 複雑化する社会を理解し適応するためのAIとデータ・サイエンス
- 第9章 圧倒的なスピードが求められる開発と運用
- 第10章 いま注目しておきたいテクノロジー
神社の杜のワーキング・プレイス 8MATO
8MATOのご紹介は、こちらをご覧下さい。