AI による豚の屠殺詐欺か？

no extension

豚の屠殺詐欺？

今回は我らが Bruce Schneier 先生のブログ記事から。

彼が提供するニュースレターの購読手順は (1) ウェブページで情報を入力 (2) 自動生成されたメールに返信 というもの。 まぁ一般的な手順。 で，最近そのメールに対して1行だけの個別返信が届くようになったそうな。 曰く

Thank you for the positive impact your emails have had on my life.
Your emails are a game-changer.
Your emails are a constant reminder of why I subscribed.
Your emails rock.
Thank you for the time and effort you put into creating these informative emails.
Thank you for the passion and enthusiasm you infuse into your email content.
Your emails consistently exceed my expectations. Thank you for the exceptional value!

Bruce Schneier 氏は以前から確認メールの返信で個別のメッセージを受け取ることがあったそうで，最初はこれらが偽物であることに気付かなかったらしい。 まぁ，でも，こういうのが一遍にくれば怪しいと思うよね。 しかもよく見れば AI 臭い文章だし（笑），メールアドレスも Gmail でアカウント名がランダムな文字列になってるし。 件のメールアドレス群は最終的にはニュースレターの購読を行っていないそうな。

氏は最初 “pig butchering scam” を疑ったそうだが，それにしては氏の返信以降音沙汰がないので ？？？ な感じらしい。

“Pig butchering scam” は日本語で「豚の屠殺詐欺」などと訳されているようだ。 SNS やメッセージングアプリなどを使って最初は友好的な態度で接近し，仲良くなってから「儲かる投資話」などを持ちかける手口なんだとか。 これが「豚を肥え太らせて屠殺する」行為に類似してるとして名付けられたらしい。 2022年ごろからこの手の詐欺報告が増えてるそうで Bruce Schneier 氏も言及されていた。 いわゆる「ロマンス詐欺」もこれの一種かな？

記事の反響

記事は最後に “Anyone have any idea?” と締めくくっていて，これに対するコメントがなかなか面白かった。

多かったのはメールアカウントのウォームアップまたはエージング仮説。 将来 spam 送信や詐欺に使うため，メールでの会話履歴を作り Google による不正検知を回避しようとしてるのではないか，というもの。 その会話履歴を AI で自動生成し省力化しているわけだ。 これなら会話を継続させる必要もないだろう。

収集したメールアドレスが「生きてる」かどうか確認し，さらに返信内容からユーザのアクティビティを推測しているのではないか，という意見もあった。

面白かったのは AI エージェントによる自律的1 な実行または誤動作の可能性。 特定のコミュニティに属する人々の反応や，購読者限定の情報を集める目的があったのではないか，というもの。 あるいは，単に「メールに自動返信する」というタスクを実行しただけというもの。 さらには，エージェント特有の多段階作業の副作用で与えられたタスクから外れた行動を取ったのではないか，という意見もあった。

ちなみに Kagi Assistant に AI エージェントが独力で Gmail アカウントを取得することは可能か聞いてみたが，少なくともアカウントの大量取得についてはエージェント単独では無理じゃね？ と言われた。

AI はチョロいか？

記事やそれに対するコメントをつらつらと読んで妄想したのは，メールであれメッセージングアプリであれ，メッセージの送り手と受け手の双方が AI エージェントを代理に使っていた場合，どのようなやり取りが行われるのだろう，ということだ。 少なくとも送られてきたメールをエージェントが読んで，それらしい返信を行うというのはできるっぽい。 人間にはやりとりの結果だけ知らされるが，実はその何倍もの情報をやり取りしてるってのはありそうな話である。 あるいは AI 間のやり取りでなら「豚の屠殺詐欺」など回りくどいことをせずとも案外チョロいんではないか，などと思ったりする。

というわけで，色々と妄想がはかどる記事であった。

ブックマーク

  1. 私としては何度でも「自律機械は存在しない」と主張しておこう。詳しくは「自律的な AI エージェントとは」参照。 ↩︎