オルタナティブ・ブログ > 新倉茂彦の情報セキュリティAtoZ >

~攻撃は最大の防御なり~正解のない対策を斜めから斬る

AIは詐欺師よりも「騙すのがうまく人のこころを操る」という次のソーシャルエンジニアリング

»

結論的には人間とAIの決定的違い、辛抱強いかの違いのようです。

逆に言えば、AIより辛抱強くない人間ですが、感情面がプラスの方向へ向けば「また別な結論」に行くでしょう。諸刃の剣として感情面が逆ブレするなら「・・・」これも興味深いですね。

AIは人間の詐欺師より人を騙すのがうまい。心に寄り添い巧妙に操る

人間の詐欺師よりAIの方が人の心を巧みに操り、うまく騙すことができるとする研究結果が報告された。

4カ国の合同研究チームが、AIチャットボットと人間のそれぞれに、1週間にわたるテキスト会話を通じて、相手の信頼を勝ち取るテストを行った。

その結果、AIは人間の2倍以上の確率で相手を信頼させ、要求をのませることに成功したという。

今後、AIが自律的に人を騙して詐欺へと誘導する手口が蔓延する危険性が警告されている。

どの辺の切り口で、どのように捉えるか?で結論は随分変わりそうです。

テキストベースの会話だけで、人間の2倍以上の信頼を得られたという研究というところですね。

感覚的にはニュースで見聞きする機会や被害額が、そのままですね。

(2025年の被害額は、約 1,414.2億円(+695.4 億円、+96.7%):特殊詐欺の概要について

元を辿れば古典的な手口で、昔からあるダマシですが今時は

1.媒体が増え(スマホやPC)→ 手元で完結(他人が介在し難い)

2.味付けが変わり(リスト名簿にかけまくり、色恋で迫っていくか、自身が犯罪の中心に居るような脅しなど)

3.実際には会わない(動画や音声、写真などのビジュアル効果)

それでも騙されています。

手間暇のかけ方が今時のが効率いいですね。ロマンス詐欺なら実際に会って時間かけて結果を得るまで、それなりに時間がかかったはずです。今時はコスパ最高ですね。

金払うなら誰もいいのですよ。そりゃテキパキ進みますね。ダメなら次に行くだけ。リストは山ほどある。

これだけニュースになっていても騙されるのは、被害者の方々の感情面の揺さぶりがベルトコンベアのようにシステム化されています。

AIのが辛抱強い

これ厄介ですよね。現状が更にパワーアップします。

結局騙す(詐欺師やAI)側が誰であっても、騙される側は常に人間です。善良な市民って言い方が正しいかわかりませんが。少しでも斜に構えた変な人ならば、騙され方も違うかもしれません。

ここから何を得るか?

これ詐欺やAIの話題ですが「このブログ見られる方々」は、これを置き換えて読んで、人はどのように騙され相手を信用していくのか?という、情報セキュリティでいう「ソーシャルエンジニアリング」対策として、耐性のつけ方等を考えて欲しいです。

視点の持ち方捉え方です。

今までのソーシャルエンジニアリング関連の投稿

Comment(0)