Metaが「AIが生成したコンテンツがどこからPostされているか」を探した件

AIの技術を使った何らかのコンテンツ作成システムが利用されることを最早止める方法は無い世の中ですが、多くの方が既に理解されているように世の中には何かの意図を持って生成された「正しくない情報」や「存在しない映像・画像」が山のように流れています。動画や静止画の世界で何年も前から存在するディープフェイクの代表的なものとしては例えば「実在の政治家や国の指導者の写真や映像を元に、本人が喋っていない話を素材としての顔を元に喋っているように作り出した映像と合成音声で構成した存在しない演説」、例えば「有名な俳優の顔映像をAVなどの映像の出演者や顔とは無関係の水着などのグラビアの顔に重ねたりするもの」がありますが、素材編集の技術の日進月歩具合はそんなものをぱっと見の違和感をどんどん消したうえで作れるようになってしまっています。

なりすましなんて言えないレベルの乱暴さ

そもそも元素材の権利を踏んづけている時点で大問題ですが、今ではその映像なり画像が利用される状況での詐欺や流言飛語の温床となるような行為が問題になっているのも多くの方がご存じの話です。

例えば

1. 「実在する人の生成されたものではない映像・画像を使っているが映像・画像の中の本人はなんら許諾していない商品やサービスへの勧誘広告」みたいなもの
2. 「正しく存在する画像や映像に正しくないキャプションやナレーションを付けたインプレゾンビ」系のもの

などはまさにそれらにあたる話です。後者については日本語に翻訳してX（旧Twitter）に投稿しているアフリカの人とメッセージの交換を始めたらインプレゾンビやっている人が「ポストの先で何が起きているか理解していなかった」というのがわかり、普通に色々日本語で投げてくれた方がみんなちゃんと見てくれるよというアドバイスをちゃんと受けて止めてくれて、例えばTogetterで見つけた 人間に戻った！？ナイジェリアの「インプレゾンビ」アカウントが現地の風景や食べ物の情報を投稿するように のように結果的にインプレゾンビを止めて現地の日常を投稿し始めたよと言う話が出てきたりしているようです。但し、インプレゾンビとなる皆さんの行動原理も事情も簡単に括るのは危険だし、そんなこと言われても「少しであってもお金が入らないと食えなくて死んじゃうんだから俺たちは何でもやるんだよ」という人たちを完全に黙らせることは不可能ですが。

SNSなどのサービスを提供する側の味方をするわけでは無いですが

それに対して前者は非常に面倒くさい話じゃないでしょうか。たとえばSNSのサービスを提供する事業者は既に枠として売っている広告スペースに於いてここのユーザー向けにどのような広告が出ているかを把握することは非常に難しい話じゃないかと思うんです。いや、そもそもターゲティング広告が普通に展開されている中でユーザー自身のページ閲覧記録やどこかのサイトで記載したプロファイルが参照されて出てくる広告をSNSのインフラをサービスする事業者が知る術がないし、知れる穴が開いていてはいけない。別の言い方をすると「表示される広告の多くが自分自身のページ閲覧記録の反映」という事実があるので、それが嫌なら全ての履歴を消し、全てのCookieを拒否し、ブラウザをシークレットモードで立ち上げるとかしないと駄目なんですが、流石にそれは厳しい。となるとどこかで折り合いをつけるしかないし、そもそも広告を見る自分の行動原理をもう一度見直す必要が先にあるかもしれません。

甘い話には裏がある。
いつの世も変わらぬ真実ではないかと思います。

なお、私自身は20代30代の皆さんからは中高年の憩いの場と言われてるらしいFacebookは今でも頻繁に出入りしていますが、日本語サポートが正式に始まる前の段階から使っていた X（旧Twitter）は今から5年くらい前にはもう荒れ方が酷くなってきて眺めていても幻滅しかしなくなってしまってアカウントだけ残して放置した状態にしています。そんな私から見ると「随分前からそんなのが幾らでも湧いてくるのが分かっているのに、そんなに性善説を信じてSNS使ってるの？」 とか言いたくなるんですが、多分それは言い過ぎなんでしょうね。でも少なくとも今でも X（旧Twitter）でのインプレッションで世の中のトレンドを見てると称してる人や組織については「そうなんですかそうですか」としか反応できないなぁとは思っています。

自制をせず規制を待つ姿勢は正しくないと思う

ではこれらが流れるSNSのサービス提供者がユーザーのコンテンツに踏み込んで何らかの規制をかけることができるのか、許されるのか、やるべきなのかと言ったところについて色々議論があり、かつ国を跨いで利用できるサービスの場合にはそれぞれの国によって規制が違う等色々と面倒くさい状況が起きるのはそれこそ20世紀に台頭した「多国籍企業」が各国の規制当局と闘った歴史を概念的には再現しているように見えます。ただし、過去の場合には国内産業保護のために海外から進出する企業の活動をどう制限するかみたいなところでが大きなポイントでしたが、今は自国の法律上宗教上あるいは体制が要求する内容に対して対応しろという要求との戦いが多いように理解しています。

但し規制内容が仮に普遍的な「人権」にあたる場合であると多くの場合に考えれられる... というのはある一定の立場からの話であって、別の立場から見ると「その部分に対して人権という考え方を適用すること自体が認められない」といったような判断をされるケースもあったりします。まさに多様性の話なのですが、それでも色々と考えないといけない。別にどこのサービス提供事業者の味方をする話でもないのですが、それでも大変な時代ですよね、って素直に思います。

そんな中でMetaからのレポート

Facebookを運営するMetaから2025年第一四半期のセキュリティ関連の状況のレポート "FIRST QUARTER Adversarial Threat Report" （英語）がでています。サイトのトップはこちら "Meta's threat disruptions"

今年の第一四半期のレポート "FIRST QUARTER Adversarial Threat Report" はこちら。

このレポートについて例えばロイターが報じてるのがこちら "ＡＩが生成か、米メタが偽コンテンツ特定"

記事自体はいわば短信で、レポートの概要を伝えるというよりはトピックとしてのAIで生成されたコンテンツがあるのを認識したという部分にハイライトが当たっています。ここでは一種のプロパガンダ的な活動としてイスラエルとガザ地区のハマスとの紛争について明らかにイスラエル寄りの、しかも「正しくないと思われるコンテンツ」を追った結果特定の組織団体が関与してAIで生成されたコンテンツとして認識されたという話です。現実問題として誰かが何かの意図を持って生成した文章なり写真なり動画なりが存在する事自体は最早驚くべきことではないとは思いますし、既に幾らでも存在しているような気がしますが、少なくともFacebookが自身のサービスの中でそういうコンテンツがあることを何らかの形で検知したという事を発表した事実については「ほぉ」と思いました。
まぁ何もしないと各国の規制当局との仲が悪くなるだけで得することは何もないとは言え、ですけれど。

あとはイスラエル寄りの発信者だけじゃなく、例えば敵の味方は敵と考える誰か、あるいは敵の敵は味方と考える誰かなどが世の中に一杯居るのが見えるのがSNSの良いところだとは思うんですが、言語の問題とかあって目に留まらないという部分があったりするのも事実ですが、さすがにそれらすべてを網羅することは出来ません。難しいところだと思います。

実は発信地域ごとの脅威という部分での分析が勉強になる

ただ、このレポートの中でそもそも私が気になったのは、脅威を与えてきている組織の存在する国（もしくは地域）のカテゴリは7つも設定してあり、イスラエルは単にそのうちの一つという事でした。

1. バングラデシュ
2. 中國
3. クロアチア
4. イラン
5. イスラエル
6. ソースが不明
7. ロシア（従来からの更新情報）

各国・各地域ともそれぞれ個別の事情と状況と必要性があって活動している組織（あるいは組織化されていない何か）が存在しているわけで、ただし国家体制として行動しているかどうかはちょっと温度差があるっぽいなという感じに見えます。単純に踏み台にされてることが多いとかそういう次元でもなさそうです。そのなかで間違いないのは、これらの地域それぞれで背負っている状況は個別に違うという事実じゃないかと思います。この調査結果自体には何かしらバイアスがかかっている可能性はゼロではないとは思いますが、発表した内容がどの国の規制当局から足を引っ張られることになるかわからないという状況で発表されているものですから、一応の信任は置けるのではないかと思います。

ということで、こういう調査の背景も、その結果も、本当に勉強になるなぁと思っています。