AIが文章を書き別のAIがそれを読む時代の「もはや自然言語は不要じゃないか」疑惑

生成AIが作った文章がそれとなく世の中に流れ始めていると言われてる昨今ですが、当初の比較的短い文章しか生成できなかったのがある程度の量を生成できるようになってきたり、あるいはいくつかのブロックに分けて「下書き」をさせたうえで最終的な文章を構成する流れが既に一部に成立しているような話も出てきています。

生成AIは自分の責任を担保できないわけで

たとえば米国の報道機関の1社が生成AIに記事を書かせてみたら「ガセネタ」の山になってしまいAIによる記事生成プロジェクト自体を急遽中止したとか、政治的な意味あいからネット上にFakeを流すことを目的として活動している組織体が存在してる云々の話とか、それ自体がどこまでFakeなのかわからず、そもそも誰が何の目的で情報を流しているのかを判断するのが難しくなってきている状況があるような昨今。

たとえばメディアはAIが生成した情報を流す際には「AIが生成しました」というクレジットを出すべきだといった議論が各所で始まっていたりしますが、別の観点からすると「そもそも人が意識して正しくない情報を意図して流す」という行為は昔からあったわけで、結局のところ情報のソースにあたること、誰が流した情報なのかを必ず確認すること、そもそも当該の情報には誰が責任を持っているのかをキチンと辿ることの重要性に対して過去とは違う姿勢で対峙しなくてはいけない時代になったよなと思ったりしています。なんか嫌です。

今の時代にとってコンサバすぎる姿勢なんだろうとは思いますが。

生成AIの生成AIによる生成AIのための情報

生成AIがなにかの情報を元に何かを書き、それを何かが新たな情報として読みこみ、別の生成AIがそれを元に次の何かを生成するディストピア。その流れは以前から指摘されていました。そうなると最早生成AIがソースとするために最適化された自然言語とは違う言語体系が生まれてきそうな勢いすら感じたりします。

元々個別に用意した情報ではなく一般の情報を元に生成させる場合、それがテキストであってもイメージであっても出典を明らかにできない問題は付いて回っていますし、権利関係や正確性についても誰がそもそも責任を持てるのかについても法的に整理されてるわけでは無い状況がいま目の前にあるような気がします。それに対して技術的な興味とは全く別の観点で「まじどうよ」と思う私は技術の進展から見ると恐らく保守的すぎるのだろうとは思います。でもなんだか「1巡目は人が関与してるが、2巡目からは仕組みが勝手に回りだして人が関与できなくなる仕組み」のような気がします。ちょっと怖いです。

誰が責任を持った提供主体であり、誰がエンドユーザーなのか、誰のために誰が何をしてるのか。アホなので最早良く分かりません。ちなみに極論ですが私自身はAIが書いた小説とか記事とか音楽とか要らないです。人の仕事と相対したいです。

やっぱり今の時代からするとコンサバすぎる姿勢なんでしょうけど。

勿論技術的な話として面白いとは思います

しかしながら入力されたものからしか出力を生成できないという基本的な枠組みの中で何かを生成する場合、最低でも入力側の正確性や信憑性の話が付いて回ること、そして出力されたものについても論文の査読やきちんとした校正を含めた編集が機能していない限り非常に危険じゃないかという疑念をどうしても拭えません。

実は私自身、エンタープライズサーチのソリューションのマーケティングを過去2年ほど担当したことがあります。インターネット上でサービスされる「インターネットサーチ」に対して、企業や何らかの組織の中で必要な情報にたどり着くためのソリューションとしての「エンタープライズサーチ」で、乱暴に説明すると前者はキーワードを増やすと結果が増えるのに対して後者は絞り込み（ドリルダウンと言っていました）ができることが重要という代物で、実はそのエンジンや技術は今でもいろんな形で世の中で使われています。私自身は既にそのエリアから離れて随分と経ちますが、そこでサーチについての基本的な勉強ができたのは今でも有難いと思っています。

過去の狭い範囲での自分の経験に頼りすぎるのはコンサバの典型なんでしょうけれど。

生成するためには入力が必要だし、出力は入力からしか得られない

鶏と卵の関係に近いかもしれませんが、生成AIと言っても無から有を生み出すわけでは無く必ず入力情報が必要なのは一応知られた話ではあります。なんでも出てくるわけでは無い訳です。まずそこが大事。そして私が過去経験したサーチに関する仕事に関していうと、勿論今の生成AIとは機能も目的も違うのですが、共通しているのは「入力からしか出力を得られない」という事実は変わらないと思っています。絶対に間違いない話だと信じています。

その入力情報は誰が用意したものなのか？
その入力情報は誰が内容の信憑性を担保するのか？
その出力情報も誰が内容の信憑性を担保するのか？

正直良く分かりません。
たとえば企業なりなんらかの組織が自らの為に必要な入力情報を用意し、それを元に生成AIのエンジンを利用して何かを出力し内容を精査したうえで自社自組織として活用するのは過去私が経験したエンタープライズサーチのソリューションと似たようなモデルです。要はデータベースのフロントエンドみたいなもの。違うのはエンジン自体が既に存在している情報から必要とされる情報にたどり着ける手段を提供するのか、あるいはそこにある情報から何らかの新しい情報みたいなものを生成するかの違い。

でも誰も信憑性や一貫性を担保しない情報を読み込んだものから出力されるものって一体何なのか。
誰が書いたかわからないWikipediaや謎情報に溢れたYoutuberが喋る事の信憑性の無さと同じレベルじゃないか。

禅問答のようですが、FakeはFakeの顔をしていないというところだけは昔から変わらないなと思っています。但しいま目の前にあるのは善意も悪意もなく誰の顔も持たずFakeではないとも誰も言えない無垢のFake。何それって感じです。
あくまでもコンサバな個人的感想ですが。