生成AIの回答に詐欺サイト混入、検索結果の不正操作で被害拡大

生成AIの回答に詐欺サイトのリンクが混ざる事例が多発し、犯罪集団が検索結果を不正操作している実態が明らかになった。

今何が起きているか

日本経済新聞は、生成AIで商品を調べた利用者が詐欺サイトへ誘導される事例を報じた。犯罪集団が検索結果を不正操作し、AIの回答に詐欺サイトのリンクが紛れ込むケースが複数確認されている。X上の投稿でも同様の事例が多発していると指摘された。

生成AIの多くは外部の検索結果やウェブ情報を参照して回答を作るため、検索上位に不正サイトを押し上げられると、その内容がそのまま回答に取り込まれる。検索順位を操作する手法がAIの要約工程を経由することで、利用者が出典を確認しにくい形で詐欺サイトへ到達しやすくなる。

影響は生成AIを日常的に使う一般利用者全般に及ぶ。特にネット通販で商品を比較する人、AIの回答をそのまま信用してリンクを開く人が標的になりやすい。詐欺サイトに決済情報や個人情報を入力した場合の金銭的被害は利用者個人に直接及ぶ。

検索エンジン各社と生成AI事業者は、参照元の信頼性判定や不正サイトの排除を強化するとみられる。犯罪集団側も検索順位の操作手法を更新し続けるため、いたちごっこの構図が続く可能性が高い。被害件数の集計や公的な注意喚起が今後出るかが焦点になる。

AIの回答に示されたリンクは、開く前にドメイン名と運営者情報を確認する。商品購入や決済の前に、公式サイトのURLと一致するかを照合する。不自然に安い価格や緊急性を煽る文言があれば、いったん手を止めて独立した検索で正規販売店を確認する。

検索結果やAIの要約を信用する前提が崩れると、利用者は情報源を一つずつ確認する負担を負うことになる。AIが中介する情報流通の信頼性が問われ、検索事業者とAI事業者の責任範囲をどう定めるかが制度設計上の論点になる。