OpenAIのAI悪用の報告が興味深い

先週に高市首相の悪評に悪用しようとしたとしてニュースになっていましたが、OpenAIの報告が興味深いです。
Disrupting malicious uses of AI

ニュースを見て、これを読むまで知りませんでしたが、2年間にわたってこのような報告を発行してきたそうです。今回は、OpenAIのAIモデルの悪用の検知と防止が事例(case study)として8種類報告されています。その中の最後の「Covert IO: China's "Cyber Special Operations"」に高市首相に関連する悪用が出てきますが、中国執行機関による他の行為も書かれています。なお、IOはinfluence operationsで、影響を与える作戦、くらいでしょうか。

よくわかるのは、OpenAIのAIモデルが悪用を防ぐ機構を持っていることと、利用履歴は記録されていて、後から分析されうること。僕らも変な使い方をしないようにしましょうね。