アルゴリズムのミスが原因で子供が死んだら、ヒューマンエラーのせいで死ぬよりも一層耐え難い。

当ブログでもこれまで何回となく機械との競争について触れてきました。そして最近ではIoTだ人口知能という話題も加わり、新聞の見出しなどにもこの手の話題が出てくることが増加しています。

機械の進化がもたらす未来には、物事の多くがそうであるように、メリット・デメリット双方が考えられます。

たとえば、こちら『墜落の小型機、試運転せず離陸か　「指定場所を素通り」』の記事にこんな記載があります。

事故機のような小型機は、離陸前にエンジンを最大出力に近い状態にし、エンジンの調子を点検する試運転「エンジン・ランナップ」をすることが、メーカーのマニュアルで定められている。

中略

飛行場関係者の説明では、小型機を操縦していたとみられる機長の川村泰史さん（３６）＝川崎市＝は、駐機場から試運転の指定場所を通って滑走路に行く間に、調布飛行場職員との交信で「エンジン・ランナップ・コンプリート（試運転完了）」と伝えた。だが、指定場所では試運転することなく素通りし、そのまま滑走路に進んで離陸したのを飛行場関係者が目撃した。小型機が指定場所以外で試運転をしたかはわかっていない。

このような状況にIoTとしての取り組みがなされいることで証拠の検証が確実に行える可能性があります。さらに踏み込んでエンジン・ランナップ・コンプリートが記録されていなければ離陸アクションができないようなプログラム制御を行うことも考えられるでしょう。

このようにルールを守らない人間を機械が制御することでリスク回避することの可能性は多くの人が受け入れることが可能な世界と考えます。

他方、人間と機械が勝負するようなケースでは機械の進出を受け入れらるか微妙な側面も予想されます。

ダニエル・カーネマンのファスト＆スローの、直感対アルゴリズム - 専門家の判断は統計より劣るという という章があり、ポール・ミールの「臨床的予測対統計的予測-証拠の理論分析の評価」を紹介しています。

この本は、20種類の調査結果に基づいて、訓練を積んだ専門家の主観的な印象に基づく臨床的予測と、ルールに基づく数項目の評価・数値化による統計的予測とを比較し、どちらがすぐれている分析しているものです。

この章でカーネマンはアルゴリズムに対する敵意として、臨床心理学者の敵意と不信に満ちた反応を紹介しています。

そして、人間と機械が勝負するときには、ジョン・ヘンリーからガルリ・カスパロフにいたるまで、私たちはいつだって心情的に人間の見方なのだと指摘し、人間に関わる決定を下すアルゴリズムに嫌悪感を抱くのは、多くの人が人工物や合成物よりも自然のものを好むからだとしています。

機械やアルゴリズムの進化は今後ますます進むことでしょう。この進化により人間よりミスの少ないアルゴリズムが利用可能であるなら、重要な決定を人間の直感に頼るのはリスクであるとも考えられます。

ただし自分の子供の診断を機械に任せ、その機械的で杓子定規な判断のミスが原因で子供が死んだら、ヒューマンエラーのせいで死ぬよりも耐え難いのではないでしょうか、

これについてカーネマンは「この感情的な痛手のちがいが、人間による判断を好むことにつながっている。」としています。さてあなたは人間のミスと、機械のミスを同等に受け入れる自信はありますか？