AIが生成する何かを誰が担保するのか問題と、本当に中の人は居ないと信じて良いの？疑惑

生成系AIは乱暴に言うと「事前に何かしらデータを喰っていて、それを元にユーザーの指示に対して何かしらの結果を組み立てて返す」仕組みなわけで、それが何かしらのデータ処理プログラムだったりテキストだったり画像だったりするわけです。

まだ技術的にも倫理的にも過渡期だし、生成した内容の正確性を誰かが担保するわけでもないし、そもそもシステム的に何か完成形がそこにあるわけでは無いので特に人文系...というか何かしら文章で情報を得ようとしたときに、喰ったソースデータは査読を受けた情報でもなく、生成される結果も基本は文章的に違和感がないと判断できるとされるロジックのもとに生成される「確率的に正しい答えを返すことが無くはない」結果についての話が多くて、本当に使う側が気をつけないとだめなんじゃないかと個人的には思っています。

一応これでも20年くらい前に日本でおそらく最初のエンタープライズサーチのソリューションのマーケティングやっていて、形態素解析とかタクソノミーとかシソーラスの世界が云々という部分を齧った頃からの経験を踏まえて今のLLMとかを踏まえた状況をある意味シニカルに見るところがあるのは私の個人的な事情です。でもいずれにせよ「確率的に正しい答えを返すことが無くはない」というレベルのものを一体何にどう使うのかというのはユーザー側の責任なので、まだまだ関係各方面大変ですよねと思ったりはしています。

AIの中に誰かいる？いや、中の人などいません。たぶん、きっと、ぜったい

そんな中、創業者がForbsの30 UNDER 30: TECHNOLOGYに名を連ねるKAEDIMの話が流れているのにふと気が付きました。KAEDIMは2Dのグラフィックを入力すると3Dのグラフィックを生成するというテクノロジーを提供する企業ということになってるんですが、どうやら裏でクリエイターが1枚1ドルとかの安い単価で裏側でデータの修正...なら良いんですが、実際にはデータを起こす作業をやっているんだよという話。

ソースはこちら。
404 MEDIA : Buzzy AI Startup for Generating 3D Models Used Cheap Human Labor

なお日本語版Gigazineにこの記事の紹介記事が出ています。
「AIの力で3Dモデルを作成する」とうたう企業が実は人力だった

なにそれ単なる人力でしょ、という話です。
実際技術的にどんな姿を作ろうとしているのか、どこまで何を実装しているのか、どこまで実用になるのか、それがリリースされた初期から実現出来ているのか、そもそもビジネス的にどういう形で利益を上げて行こうとしてるのかなどなどを今の時点でどう評価出来るのかはわかりませんが、裏で作業しているクリエイターなどから取れたコメントによると「実質上制作作業そのものをやってるケース」や「生成された3Dデータは見てなくて、ソースの２Dから起こしたよ」という状況がある、という内容になっています。

それに対してKAEDIM側からコメントが取れないようなので、今のところKAEDIM自身がどう動いているのかと言う部分での裏は取れていないようです。いや、そもそも仮に事実だとしてもそれについてコメントするかは不明ですし、それこそ炎上しなければスルーして行く気もします。

しかし、うーん、どうなんでしょうね。
ちなみに「たぶん、きっと、ぜったい」は大好きな竹内アンナさんの新曲のタイトルです。
めちゃめちゃギター上手くてですね、歌声に中毒性があってですね...　いや、まぁそれはどうでもいいんですが。

そういえばかつてYahooは検索結果として表示したWebサイトの分類は人力でやっていた

もう今更その時代のことを覚えている人は少なくなってきたかもしれませんが、かつてYahooはユーザーが検索しようとしているWebサイトの情報の分類とディレクトリの保守を長く人力でやっていました。それに対してGoogleは早くからアルゴリズムで分類し検索要求に対して結果を表示する仕組みを実装していました。Altavistaはどっちだっけな？1990年代半ばの後半の時点で圧倒的にレスポンスが速くて好きだったんですけど、なんだかあっという間に淘汰されてYahooに飲まれてしまったんですよね。

流石にYahooも人力での分類は仕事量と給与と結果の質のバランスがとれなくなって10年以上前にアルゴリズムでのインデックス生成に切り替えたんですが、SEO対策に端を発した色々な問題から検索エンジン側で色々調整がつく実装になっていて、だからこそいろんな議論が起きているのは皆さんよくご存知の通りだとは思います。

そういえばGoogleはアルゴリズムで色々やってるということにはなっていましたが、実際には米国ではない国で非常に低賃金での収集データのクレンジングなどの作業を行っていたという話が出て騒ぎになったこともありました。

まぁ何れにせよ最初から求めるモノが全部実装出来ているかどうかはそれぞれの事情が絡む話だし、過去には別に自動化自体を目的としたモノはなかった記憶があります。それに対して生成系AIの前提は「生成すること」であり、期待値は明らかに「自動」というところが強いと思うんです。
というか、自動化されている前提で接しますよね、普通。

さて、人力が本当に関与しているのかは謎なのですが

コメントが取れない、あるいは炎上しない限り口を割らないであろう「裏で人力でやってます」疑惑。レスポンスが求められる生成物においては人の介入は非常に難しいとは思うのですが、一定の納期を設定できる内容、たとえばこのKAEDIMのケースのような画像生成の仕組みの場合には、正直システムが全部生成しようが裏で人が手で書こうが解らないわけです。

ユーザーにとっては結果が出れば良くて、仕組みについてはある意味どうでも良い話。

ただ、自動化されてると謳ってしまった場合にはちょっと事情が変わるかとは思います。更には裏で動くクリエイターにどれくらいの報酬が支払われるのか、権利関係含めきちんと法律面で処理され保護された状態で作業しているのかどうか。

外野が何を考えても邪推にしか過ぎませんが、なんだかちょっとどうなんでしょうねと思うのは素直な私の気持ちです。