プロモーションを担当した映画のお勧めコメントを全部生成AIを使って捏造した豪傑がいた話

そもそも生成AIを使った何かしらの「モノ」は一体誰が権利を持つのかとか、作成者としては誰がクレジットされるべきなのかという話が以前からありますが、それとは別にそもそもの「捏造」の話があって、というかそもそも生成AIが世に出る以前から画像や映像の世界ではDeep Fakeという捏造文化が既に世界に蔓延している訳ですが、どんなに技術が発展しようが進歩しようが、注意して身の回りを見ておかないと一体何をどう信じればよいのか分からないというのは結局変わって無いのねというところを時々思いなおすことは大事だと思っています。

もちろん生成AIなどと言った最新の技術の世界以前にいろんな形での詐称、贋作、剽窃等は太古の昔からある話で、新しい話でも何でもありません。
なにかしら耳障りの良い話だけを吸収して陰謀説の海に沈むという話も、別に今に始まった話ではありません。
あるいは意図をもって何かを自分の意志の通りにするために都合の良い話だけを流して何かの主体の行動を何とかしようとするなんてのも当然ですが太古の昔からある話です。

だからこそ歴史書や過去の歴史を元にした小説や映画、あるいはアニメが楽しい訳ですが、それが今の時代にそれが起きているとなるとちょっと話が違ってくるとは思っていますが。

映画のレビューが全部生成AIのお仕事だったという誰得事案

この話を見かけたのはネットメディアの Megalopolisに掲載された "'Megalopolis' Cuts Ties With Marketing Consultant Behind Trailer Debacle; Fabricated Critic Quotes Were Generated By AI By Matt Grobar August 23, 2024 1:48pm" という記事。また、The Vergeも "AI was responsible for the fake quotes in the Megalopolis trailer By Wes Davis, Aug 26, 2024, 2:06 AM GMT+9" として取り上げています。中身としては映画「メガロポリス」の予告編に寄せられたコメントが全部生成AIで偽造されたもので、それをやらかしたマーケティングコンサルタントが解職されたという話です。

こういうお話を目にすると「ソースにあたる重要性」というのを再認識するんですが、そもそも誰かのコメントを集めた物自体が捏造となると単純に情報の元を捜して真意を探るといった行為自体が意味を持たず、もう何だかって感じです。

なお概要はGigazineさんの[2024年08月26日 11時46分 / 映画「メガロポリス」の予告編で登場した映画批評家によるコメントはすべてAIで捏造されたものであったことが明らかになり予告編が削除＆担当者も解雇という記事でも紹介されています。

この事案でいうと、コメントを取って編集する手間と時間が含まれていた筈の自分のギャラから全部丸取りした「解雇されたマーケティングコンサルタント」は発覚するまでは得してたんでしょうけれど、発覚して全部チャラに、というか多分損害賠償請求を受けて大変なことになるんだろうなという予想はできます。その一方、結果的に信用して仕事を任せた映画の製作配給会社を含めた関係者一同は最初から損しかしていない話で、こうなると「誰かに委託する、あるいは誰かと一緒に行う形での仕事」という行為自体が成立しなくなってしまう世界ですよね。

分かってて人を騙す人は悪い人なのはその通りなのですが。

生成AIは所詮ただの箱なので、別に生成AIのシステム自体が悪者では無いけれど

このケースだけ見た場合、生成AIというシステムは単にプロンプトに従って自分が喰ってきたデータから要求された内容を吐き出しただけなので、それ自体が良い悪いのではなく使ってる人が悪いわけですが、少なくとも自分でキーボードを打って文章を作ったり、あるいは自分で絵筆を奮って贋作を書くとかとは全然手間も技術も違う世界だよねっていうのは本当に思います。それでいうとDeep Fakeな動画を作るのも数年の単位で見てもどんどん楽になっているのは知られた話ですが、いや、技術が悪いんじゃなくてそれを悪用する人間が悪いんですよという昔からの話は百も千も承知なのですが、でも何だかなぁと思います。正直な話。

いずれにせよ所詮道具なので得られた結果をどう使うかは使う人次第だし、誰かの役に立つこともあれば誰かを貶めて難しい状況に陥らせることもできる訳です。だからこそ善意や倫理と言うものが重要なんだと思うんですが、それとて価値観の違いによって軸がぶれる...どころか、そもそもの話が通じないケースすらあるわけです。
しかも今に始まった話じゃないどころか数百年とか数千年も遡れるケースもあったりして、それらに対してはもう根が深いという言葉すら軽く感じる程だったりします。

色々簡単じゃないですよね。世の中って。

---iwa