AIは暴走しない、暴走するのは？ 文科系のための人工知能入門 "第4回"

「２０４５年に人工知能が人間の知能を超える」、「暴走した人工知能が人間を支配する」 といった "人工知能が凄すぎてかなり危険" 話が増えてきています。しかも発言している人の中にはIT業界の有名人や、高名な物理学者がいたりするので『あー、これは近未来の現実なんだな』と思われている方が多いのではないかと思います。

鵜呑みにしないでください　

これは数多くある未来予測のひとつにしかすぎません。著名人の未来予測は意見として知っておくことは重要ですが、鵜呑みにしてはいけません。

1.誰にも未来は予測できない

まず、大前提として知っておくべきなのは "誰にも未来の正確な予測なんて出来ない" という事実です。ノーベル賞受賞者であろうが、一流企業のビジネスリーターであろうが誤る時は未来予測を誤ります。

• 人工知能の父と言われノーベル経済学賞を受賞しているハーバードサイモンは1965年に「20年以内に人間ができることは何でも機械でできるようになるだろう」と予測しています。[*1]。この予測からすでに半世紀が経過しようとしていますがまだそんな機械はできてません。
• ビジネス界では優れたリーダーと言われた人たちが成功体験に起因する思い込み，自信過剰によって誤った選択をしてしまう例が多くあります。[*2]

大きな変化を伴う未来予測では権威のある人が正解を持っていると考えてはいけません。逆に成功体験が判断を誤らせてしまう場合もあります。"誰が言っているか(発言者の権威)" より "何を言っているか(発言の中身)" を吟味することが大切です。

2.万能の天才はいない

特定の分野の専門家はたくさんいますが、この世にたくさんある専門領域全てに通じて、それをつなぐことができる万能の天才はいません。あなたの知りたいことが複数の専門分野にまたがる場合、的確な判断をするためには、特定の分野の見解に偏らないよう関連する複数分野の専門家の意見を聞いて判断をする必要があります。

では人工知能はどうか？

人工知能に関する議論は複数の専門分野にまたがるお話になる場合が多いです。

(1)「２０４５年に人工知能が人類の知能を超える」

これは人工知能と知能の比較のお話です。

人工知能の専門家の意見だけでなく、知能にアプローチしている他の分野の専門家（認知科学、心理学、科学哲学、etc..）の話に耳を傾ける必要があります。

こちらは前回も書いたようにいろんな分野の意見を総合して「解明できていない知能を超えるという言い方自体に無理がある」という見解に筆者は至ってます。

(2)「暴走した人工知能が人間を支配する」

これは人工知能によって社会がどう変わっていくかというお話です。


人工知能の専門家の意見だけでなく、社会の仕組みの専門家（経済学、社会科学、etc...）の話に耳を傾ける必要があります。

人工知能が社会の仕組みをどう変えて行くのか？社会科学的な立場[*3]からみてみましょう。

朝から頭痛がするので病院に行くことにしました。タクシーに乗って病院へ、お医者さんに診察してもらい処方された薬を薬局で買い、またタクシーに乗って帰宅。処方された薬が効いて全快、めでたしめでたし。

医者の立場から　「的確な判断をすること」の重要性

このストーリーの中でお医者さんは患者さんの病気の原因を特定し、治療方針を立てるという判断をしています。

これは専門知識が必要とされる高度な判断です。これまではお医者さんが持っている知識・経験を元にこの判断を行なっていました

この場面で人工知能を活用すると過去の診療データ、あなたの体質、過去の病歴を元にあなたの頭痛の原因、治療方針をお医者さんが判断する助けをしてくれます。このような活用はすでに始まっていますし、今後さらに活用が進んでいくでしょう。

われわれが社会生活を営む上で重要なのが「的確な判断をすること」です。お昼に何を食べるか？という身近なこともあれば転職するか否かなどちょっと大きなものまで、人は生きていく中でいろんな判断を求められます。実りある生活を送るためには「的確な判断をすること」が重要です。

人工知能はわれわれが「的確な判断をすること」を強力に支援してくれます。

患者の立場から　「判断の負荷を減らす仕組み」の重要性

このストーリーの中で患者さんは病院に行くという比較的シンプルな判断以外は行なっていません。

実はこの簡単な判断だけで済むのは社会の中で作られた仕組みがあるからです。

タクシー使って病院に行き診察受けて薬をもらうのに、タクシー運転手、お医者さん、薬局の店員がどうやったら働いてくれるか悩む必要はありません。お金を持ってればそれと交換に適切なサービスを受けることができます。これは人類が造った貨幣経済という制度があるからです。

また全く面識のないタクシー運転手、お医者さん、薬局の店員があなたを騙すという可能性について気に病む必要も（まあ普通は）無いのは法律という制度があるからですし、その法律が機能している根底には人間の文化の中で培われた "人を騙すのはよくない"という規範、道徳があります。

普段生活していると当たり前すぎて気づかないのですが、われわれの社会生活を成り立たせているのが「判断の負荷を減らす仕組み」です。毎日の暮らしの中で何をやるにもいちいち難しい判断が必要となると何も出来なくなってしまいます。人類は歴史の中で判断の負荷を減らす社会の仕組み（公的な制度である法律や非公式な制度である慣習など）を作り上げてきました。

これらの仕組みは自然科学と異なり単一の原則を元に構築されていません。社会の仕組みは多くの人間のつながりの中で生まれた文化、規範などを元に構築されていき、ゆっくりと変化していきます。

人工知能が直接的に「判断の負荷を減らす仕組み」を変える可能性はありません。筆者は人工知能がこれからの社会の仕組みに影響を与えていく可能性はあると感じていますが、それは社会の仕組みを変える数多くの要素の一つにしかすぎない間接的なものです。「人工知能が人類を支配する仕組みを作って人間を支配する」のようなSF的なものでは有りえません。

人工知能は暴走しない、暴走するのは？

筆者の結論は「人工知能自体は決して暴走しない」ですが心配なこともあります。

それは人工知能への誤解から生まれる過度の期待と恐れを持った "人間の暴走"です。

これを防ぐために必要なのは人工知能に対する規制では無く、人工知能に対する正しい理解を広げることだと筆者は考えます。

テレビがどうして映るのか？その詳細な仕組みを完全に理解している人は少ないですがみんな「中に人が入ってるんじゃ無い」ということは理解していますよね。

人工知能でも同じように「専門家のために必要な知識」だけでなく「一般の人たちが人工知能を活用するために理解しておくべきこと」を明確にすることで大きな可能性を持った人工知能というものをみんなが有効活用できると感じています。

これを筆者は「人工知能リテラシー」と名付けました。今後当ブログで筆者の考える人工知能リテラシーについて綴っていきます、よろしくお願いいたします。

[*1]人工知能の歴史
https://ja.wikipedia.org/wiki/%E4%BA%BA%E5%B7%A5%E7%9F%A5%E8%83%BD%E3%81%AE%E6%AD%B4%E5%8F%B2
[*2]なぜリーダーは「失敗」を認められないのか リチャード Ｓ テドロー　日本経済新聞出版社 2011
[*3]ダグラス・ノース 制度原論 ダグラス・C・ノース　東洋経済新報社 2016