GoogleとシンガポールのスマホでのAI詐欺警告は、どれだけ当たるのかを明かしていない

スマホが「お金や個人情報を送る前に立ち止まって」と知らせてくれたとき、気になるのは、その表示を出しているのは誰で、どのくらい当たるのかということです。Google DeepMindとシンガポール政府技術庁（GovTech）は2026年10月14日、これをスマホの中だけで行うモデルを、シンガポール国際サイバーウィークに合わせて発表しました。

発表の目玉は、モデルがスマホの上で動くことです。これで答えが出るのは「自分のメッセージはどこへ行くのか」という問いです。もうひとつの問い、「警告はどれくらいの割合で正しいのか」には答えていません。

端末内の2段階のふるい

以下のモデルの説明、端末内での処理、学習についての内容は、すべてGoogle DeepMindとGovTechによるもので、独立した第三者が測ったものではありません。発表によると、1段目は軽い分類器で、電池を減らさないよう常に動き、届いたメッセージを読んで怪しいものに印をつけます。2段目はGoogleの小型モデル群であるGemmaの系統のモデルで、シンガポールでの詐欺の会話で追加学習しています。政府機関や銀行、地元の著名人を名乗る手口も含まれます。2段目はもう少し長い会話を見て、脅威を確認するか、誤警報かを判断します。操作の兆候を見つけると、スマホはすぐに警告を出します。

2段に分けるのには理由があります。発表は、汎用のモデルは土地ごとの独特な誘い文句を見抜きにくいこと、そして一日中メッセージを読むモデルには電池が大きな問題になることを挙げています。

「端末内で動く」ことが約束するもの、しないもの

発表は、モデルが会話のデータを端末の上で処理するとしています。GovTechの安全・信頼担当ディレクター、Mark Chen氏は、詐欺対策のために個人のプライバシーを犠牲にすべきではないと述べています。学習はGovTech自身の環境で、詐欺の届出から集めた匿名化データを使い、個人情報は使っていないとも説明されています。

足りないのは精度です。発表によると、モデルは合成した会話と地元のデータで試験されましたが、結果は何も添えられていません。的中率も誤警告率もなく、独立した評価者もいません。発表に出てくる数字は詐欺の被害についてのもので、たとえば被害の「最大80%」が巧妙な心理的操作によるとされていますが、モデルについての数字ではありません。

この2つの数字がないことが、実際の利益を左右します。誤警告が多ければ、人は警告に慣れて無視します。見逃しが多ければ、いちばん用心すべきときに、偽りの安心感を与えます。

ベトナムの利用者に、発表からは見えないこと

発表によると、モデルはシンガポールで普及しているスマホ向けに最適化されています。アプリ名も機種名も発売日も書かれていません。メッセージアプリやOSの開発元が「組み込める」という一文は、可能性の話であって、計画ではありません。また発表が扱うのはメッセージと会話だけで、音声通話やビデオ通話には触れていません。

ベトナムの詐欺の手口には、通話も含まれます。ベトナム公安省は2026年9月8日の「2026年の詐欺25シナリオ」の記事で、AIが作った画像・映像・声で親族や友人、職場の上司になりすまし、急ぎの借金や送金を頼むグループを挙げています。記事は「受取人の身元を正確に確かめるまでは送金しない」ことを勧めています。具体的な確かめ方は当編集部の助言で、公安省のものではありません。通話を切り、保存してある番号へかけ直す、という方法です。10月13日の記事「ビデオ通話で送金する前に、保存してある番号へかけ直す」で手順を紹介しています。端末内の警告は、もし将来使えるようになっても、このかけ直しの前に来るものであって、かけ直しの代わりにはなりません。

ですから、スマホが警告を出したら、立ち止まる合図と受け取り、そのうえで保存してある番号へかけ直してください。この種の機能を頼りにするのは、メーカーが誤警告率と見逃し率を公表し、それを第三者が測ってからにしましょう。

Sources

1. Google DeepMind — Google DeepMind and Singapore Government announce new AI tool to protect citizens against scams: 2026年10月14日公開。2段階のふるい、端末内での処理、合成した会話と地元データでの試験、Mark Chen氏の発言を説明。
2. ベトナム公安省 — 2026年のネット詐欺25シナリオ: 2026年9月8日公開。AIで親族になりすますシナリオと、送金前に確認する助言を説明。