AIを最も賢く成長させられるのは共産主義という驚き
■すべては偶然に
この週末プライム・ビデオで最近追加された見放題作品に「祈りの幕が下りる時」がありました。
事前に検索してみると、「東野版『砂の器』ともいえる」という評価があったので観てみることに。
砂の器については、人生を生きるなかで、自身の出自や境遇と向かい合いながら必死にもがく姿や、社会からの差別的な扱いを受けてしまう主人公が描かれている作品というのは多くの方がご存知かと。
同じくこの週末に「AIと憲法」という書籍を手にしました。
そこには、現代において、善良な市民がAIに「あなたは潜在的犯罪者」などと予測・分類され、社会的に排除されるような世界がノンフィクションに変わりつつあることが示されていました。
実際、企業の採用活動や金融機関の与信審査などでAIによるスコアリングが活用されはじめていますが、なにか偶然に「ダメなひと」のレッテルが貼られてしまった場合に、私達はそこにどう対抗、抗弁していけば良いでしょうか？
■条理な没落
ニュースなどが伝えるように、企業の採用活動や金融機関の与信審査などでAIによるスコアリングが活用されはじめています。
さらに中国ではもっと進んだ監視社会が形成されつつあるようです。
アナログ時代においても支払いの遅延が一定回数繰り返されることでブラックリストに入るというような仕組みがある理由ですが、これに対しては明確な対処策を講じることが可能です。
他方、AIが様々な領域で自己学習しながら進化した社会において、どういう基準で判断するようになるのでしょうか？
「AIと憲法」ではこのブラックボックス化への懸念を示します。
過度なブラックボックス化は、どのような行動をとればAIに評価されるのかがわからなくなるため、行動の計画、指針を立てて対策を講じることが極めて困難になるとしています。
そして、その先にあるのは、
理由もわからぬまま転落していく、不条理な没落
であろうとしています。
■説明可能なAI
民間会社の採用システムや与信管理については問い合わせをしても開示されないケースが圧倒的なのではと考えます。
ですが「AIと憲法」においては、行政手続きなどの分野でAIが活用された場合の懸念を指摘します。
一例として引用します。
憲法３１条の趣旨およびこれをうけた行政手続法の諸規定に照らせば、AIの支援を受けた行政の不利益処分ないし申請不許可処分についても、その「理由」を可能な限り明確にし、場合によっては意見陳述の機会を与えることがもとめられよう。
しかし、高度なアルゴリズムやブラックボックス化したAIの判断プロセスを行政側が説明するのは容易ではないと指摘しています。
そして、説明可能なAIの導入の必要性を説いています。
日本でこのような議論がどの程度行われているのかわたしにはわかりませんが、ニューヨーク市が2017年12月に「アルゴリズム説明責任法」を制定しているというのは驚きました。
■予測精度至上主義の行き着くところ
この記事で触れているのは「AIと憲法」の序章と第１章の内容なります。
同書の全体概要については、やまもとさんのこちらの記事を参照いただくのが良いと思います。
自分としては、セグメントに回収されない個人の特性や潜在的能力が無視され、個人の将来的な可能性が不当に奪われる危険について、とても怖いものを感じています。
日本国憲法の１３条は「すべての国民は、個人として尊重される...」で始まります。
他方、予測精度至上主義の追求し、社会全体の利益、効率化を追求した国家においては「すべての国民は、人々として尊重される...」このようになることで憲法と適合すると同書は指摘します。
AIの予測精度や効率性を追求しようとすると、どうしてもプライバーや自己情報コントロールの権利とぶつかり合う側面があります。
このような配慮が日本の競争力を剥ぐとの指摘もあるようですが、中国が現在推し進めるデジタル・レーニン主義の解説と同書における以下の指摘はわたしとっては非常に驚きでした。
AIネットワーク社会に最も適合的な憲法体制は共産主義と考えることもできる
予測市場精度至上主義や効率的分類主義へ走る危険性や、日本はどういう方向を目指すべきかについて是非多くの方に「AIと憲法」を手にしていただきたいと思います。