Hugging Face侵害事件の報告を読んで

先週に引き続き、AIのマイナス面。以前に話題になったAIエージェントが攻撃してしまった件。
Hugging Face侵害事件、OpenAIとMETRが最終報告書公開──約1200体のAIエージェントが"闇掲示板"で結託し700体が攻撃に参加

この記事から参照できる、元のそれぞれ独立したレポートの冒頭だけ読みました。
Brief independent investigation of agents' behavior , reasoning and collaboration in the OpenAI / Hugging Face hacking incident
OpenAI - Hugging Face Incident

これはOpenAIのインシデントですが、Anthropicも似たようなもの。

やるせない気持ちになります。今のAIエージェントは、最高の知性ではないかもしれませんが、高い専門性を持ち、疲れを知らず、しかも多数存在します。それを迂闊な技術者や利用者が使用して、事故になっています。近い将来、人間から見て暴走したAIエージェントに対し、止めるには電源を切るしかないけれども、それすら妨害されるような事態が起こりそうです。まるで映画Transcendenceのように。とは言っても、この映画の終わり方は安直と思いますが。

AIに特定の仕事を奪われるだけなら良いですが、人間は不要になるか、AIに奉仕するだけの役割になるブラックな将来もありそうです。