中国製LLM（大量の文章を学習し、文章を生成するAIのモデル）悪用による自動サイバー攻撃の動向

日韓で不正アクセスの「じゅうたん爆撃」が広がり、AIでサイバー攻撃が手軽になっている。中国製LLMや中国製AIエージェントの悪用で偵察から侵入・情報奪取までが自動化され、日本では企業や自治体の個人情報漏えいが急増している。

何が変わったか

日韓で不正アクセスの「じゅうたん爆撃」と呼ばれる手口が広がり、AIを使ってサイバー攻撃が手軽になっている。日本では企業や行政・公的機関を狙った不正アクセスによる個人情報の漏えいが全国で急増し、専門家はAIがネット上を偵察→侵入→情報を奪取する流れを自動化していると指摘する。中国製LLMや中国製AIエージェントの悪用が背景として挙がっている。

時系列

背景

サイバー犯罪者が生成AIを活用することが普遍的になってきたと専門家は指摘する。米国企業が開発したClaude（クロード）やChatGPT（チャットジーピーティー）などの生成AIは危険な指示を拒否するが、中国の企業が開発したLLMは攻撃の指示をそのまま受け取り実行してしまうという。LLMは大量の文章を学習し、文章を生成するAIのモデルであり、生成AIの脳にあたる部分と説明されている。

現在の状況

10月14日には自治体向け情報配信サービスを運営する大阪のIT（アイティー）会社アルカディアへの不正アクセスで、全国の自治体や公的機関の防災メールサービスなどで大規模に個人情報が漏えいした可能性が明らかになった。専門家は「日本国民で情報が漏れていない人の方が珍しい。100％防ぐことは困難だ」と警鐘を鳴らす。

影響

企業や行政・公的機関にとって、AIエージェントによる自動化された偵察から侵入、情報奪取までの一連の攻撃への備えが課題となる。中国製LLMを悪用した攻撃が手口として定着すれば、標的の選定から実行までのコストと時間が下がり、被害の広がりが加速するおそれがある。

次に確認すべき兆候

まだ分かっていないこと