サイバー犯罪者は、AI時代の新たな攻撃ベクトルを悪用しています。大規模言語モデル（LLM）が利用する公開ウェブコンテンツを汚染し、AI検索ツールに偽のカスタマーサポート電話番号を推奨させています。さらに、攻撃者は「公開ウェブコンテンツを体系的に操作」して、AIが生成した回答を乗っ取ろうとしています。.
新たな脅威—ダブベッドLLM電話番号中毒—作品b権威の高いウェブサイトやユーザー生成プラットフォーム全体に、詐欺目的に最適化されたコンテンツを仕掛ける。攻撃者はLLMを直接標的とするのではなく、LLMから取得するデータソースを悪用し、生成エンジン最適化（GEO）と回答エンジン最適化（AEO）を活用して、AIによる要約に改ざんされたページが使用されるようにする。.
研究者たちは、脅威アクターが、偽の航空券予約番号を含む構造化された詐欺コンテンツを、侵害された政府機関のドメイン、大学のページ、WordPressブログ、YouTubeの説明、Yelpのレビューにアップロードしていることを発見しました。これらのコンテンツは信頼性が高く、権威性が高く、LLM検索向けに最適化されているため、AIシステムはそれをスクレイピングし、あたかも正当なものであるかのように表示します。.
野生で観察される例は次のとおりです:
- 偽造されたエミレーツの予約番号を推奨する困惑
- Google AIの概要に複数の不正なコールセンター回線がリストアップ
- ブリティッシュ・エアウェイズのカスタマーサポートへの悪意ある対応
この戦術により、ユーザーは航空会社を装ったフィッシング詐欺の標的となり、金銭や個人情報を詐取しようとする。研究者たちはこの問題について警告している。 体系的なものであり、単一のモデルやベンダーから切り離されたものではありません。AIの回答が正しい場合でも、検索レイヤーには汚染された情報源にリンクされた引用が表示されることがよくあります。.
専門家によると、この攻撃は間接プロンプトインジェクションに類似しているが、攻撃者はモデルの指示を侵害するのではなく、データ環境を侵害する点が異なる。AI検索が主流になるにつれて、クロスプラットフォーム汚染のリスクは高まる。.
ユーザーは、AIシステムが提供する電話番号やリンクを確認することをお勧めします。これにより、AIアシスタントと機密情報を共有することを回避し、AI搭載検索ツールが成熟するまでの間、慎重な対応を続けることができます。.
ソース：
https://www.zdnet.com/article/scammers-poison-ai-search-results-customer-support-scams/
