不正アクセス急増背景に”中国製LLM”台頭、AIが自動で偵察→侵入→情報奪取…専門家「情報漏れていない人の方が珍しい」

■全国で急増、個人情報の漏洩…自治体防災メールでも大規模被害か

企業や行政・公的機関を狙った不正アクセスによって、個人情報が外部に漏えいしたり、漏洩した可能性があったりする事案が、ここ最近、急増しています。

10月14日には、自治体向け情報配信サービスを運営する大阪のIT会社「アルカディア」への不正アクセスによって、全国の自治体や公的機関の防災メールサービスなどで、大規模に個人情報が漏えいした可能性が明らかになりました。

なぜ今、こうした「不正アクセス」事案が急増しているのか、専門家に取材しました。

■なぜ今、不正アクセス急増?専門家が指摘「生成をAI悪用」

サイバーセキュリティを専門とする「VLCセキュリティラボ」の代表取締役CEO・中本有哉さんは、次のように指摘します。

中本有哉さん（サイバーセキュリティ専門家）
「サイバー犯罪者が『生成AI』を活用することが、普遍的になってきた」

こうしたサイバー犯罪者が、「ある特定の生成AI」を使うことで、サイバー攻撃・不正アクセスが容易になってしまうといいます。

中本有哉さん（サイバーセキュリティ専門家）
「アメリカの企業が開発した『Claude』や『ChatGPT』などの生成AIは、ユーザーが『危険な指示』をした場合『危険なことはできない』と応じる。ところが、中国の企業が開発したLLMは、『攻撃の指示』をそのまま受け取り、実行してしまう」

■「攻撃」の指示をそのまま実行…「中国製LLM」が9月以降の騒動に起因か

「LLM」は「Large Language Model=大規模言語モデル」のことで、生成AIの「脳」にあたる部分です。こうした「脳=LLM」を搭載したのが、「体」の部分にあたる「Claude」や「ChatGPT」などの生成AIサービスです。

この「LLM=脳」をめぐって、アメリカの企業が開発したLLMを搭載した生成AI=「Claude」や「ChatGPT」などは、ユーザーが「危険な指示」をした場合でも「それはできません」と、指示を拒否します。

しかし中本さんによると、「中国の企業が開発したLLMは、危険な指示や『攻撃する方法を教えて』といった指示を、そのまま受け取って実行してしまう」といいます。

中本有哉さん（サイバーセキュリティ専門家）
「そのような倫理観が薄いLLMを使った生成AIサービスと、AIが活用できる攻撃ツール群が揃ったタイミングが、このシルバーウィーク前後で、9月以降の全国での騒動に起因していると考えられる」

では、サイバー犯罪者は、こうした「悪用可能な生成AI」を、どのように使うのでしょうか?

■ネット上を自動で偵察…AI単独で侵入→情報奪取まで完結

中本さんによると、不正アクセスをする犯罪者は「AIを使ってネットワーク上を偵察し、サーバーなどに脆弱な部分が見つかれば、そこを攻撃して情報を抜き取る」といいます。そして「この一連の流れを、AIを使って独立してできてしまう」といいます。

例えば、先述した“悪用できるLLM”を搭載した生成AIに、次のような“指示”をするといいます。

生成AIへの“悪用”指示
「インターネット上をパトロールして、外部から入れそうなサーバー・システムがあれば教えてほしい。そしてその中に入り、中にある情報を持ち出せるようなコード・仕組みを構築してほしい」

■“倫理観の低い生成AI”悪用で、誰でもサイバー攻撃が可能に…

こうした“指示”に対し、アメリカ企業が開発した「Claude」や「ChatGPT」などの生成AIツールは「それはできません」と拒否しますが、中国企業が開発したLLMを搭載した生成AIは「わかりました」と、指示をそのまま受け取り実行してしまうといいます。

中本さんは「悪いのは特定のLLM自体ではなく、こうしたLLMを悪用する人だ」としたうえで、「こうした倫理観の低い生成AIを使って仕組み・システムさえ構築すれば、誰でも不正アクセスできてしまう」と警鐘を鳴らします。

では、こうして情報が漏洩したり持ち出されたりすると、私たちはどのような実害を被るのでしょうか?

以下全文はソース先で

10/18(日) 21:40　　テレビ高知
https://news.yahoo.co.jp/articles/2c807564e567a7a66e8718bce6ebd38538c605e8

これ当たり前に頭に叩き込んでおかないといけない事