日本企業が利用したら即アウト…？「DeepSeek」をドヤ顔で使う人が犯罪の片棒を担ぎかねないワケ

DeepSeekはデータのセキュリティに深刻な問題を抱えている。

AIはそもそも、ユーザーが入力したデータを蓄積して学び、性能を高めていく。DeepSeekの場合、こうしたデータはすべて中国に設置されたサーバーに保存される仕組みだ。

日本企業がDeepSeekの利用に慎重になるべきポイントは、まさにここにある。

DeepSeekの規約に記載された「収集する情報」は、ユーザー名、メールアドレス、電話番号、パスワード、デバイスモデル、支払い注文と取引の情報、オペレーティングシステム、キーストロークパターン、IPアドレス、システム言語……など多岐にわたる。

さらにデバイス間のアクティビティも特定し、情報収集すると書かれている。キーストロークの詳細は書かれていないが、ユーザーがキーボードに打ち込んだ内容を記録する可能性が考えられる。

しかも、ただ収集するだけではない。

■データはすべて中国政府の手に…？

これらの情報にアクセスして、「保存し、法執行機関、公的機関、著作権者、またはその他の第三者と共有する」とはっきり書かれているのだ。規約には、DeepSeekは、中国の法律に準拠し、中国政府が管轄していると明記されている。データはすべて、中国政府の手に渡ると考えていいだろう。

無料で使えるからと言って、企業や政府が安易に使用するのは危険だ。

例えば、開発中の製品の改良点についてアドバイスが欲しいと思って、知的財産になるような情報をDeepSeekに入力してしまうと、情報が漏洩する可能性がある。また、顧客情報を整理して欲しいと思って顧客データを入れたら最後、すべて中国のサーバーに保存されてしまう。

実際、2023年には韓国のサムスンがChatGPTに社内データを入力してしまい、情報が漏洩したことがあった。当時サムスンはChatGPTの利用を禁じて対応したが、DeepSeekでも同じような危険性はある。

さらに恐ろしいのは中国政府が、政府系のサイバー攻撃グループにそうした情報を提供し、サイバー攻撃の端緒とする可能性があることだ。そうなると、さらなるハッキング被害やデータ漏洩の発生リスクが一気に高まる。

DeepSeekに対する懸念はまだある。

DeepSeek自体のセキュリティの脆弱さもすでに暴露されているのだ。

「ジェイルブレイク(脱獄)」と呼ばれる、AIに対する攻撃がそれにあたる。これは、複雑で非言語的な入力でAIを巧みに騙し、本来の使い方や利用規約を無視した形で犯罪に加担させたりすることを言う。

サイバー攻撃用のウィルスを作成させたり、人を騙すためのフィッシングメールの文言を作成させたり、犯罪行為を手助けしたりするなど悪意ある指示(プロンプト)を実行してしまっていることが、すでに研究者やセキュリティ企業の検証などで明らかになっている。

なお、OpenAIなどはジェイルブレイク対策を早くから強化しているので、同じような欠陥は少ない。

もう一つDeepSeekを使う際に気をつけるべきは、「洗脳」されてしまう可能性が否定できないことだ。

すでに方々で報じられている通り、DeepSeekは、中国共産党に対する批判や、中国政府が国内で言論統制している「天安門事件」といった項目については回答してくれない。習近平国家主席が似ていると揶揄されている「くまのプーさん」についてもDeepSeekでは検閲されてしまっている。

前述の通り、中国企業であるDeepSeekは、中国政府の法律に準拠してサービスを提供していることを隠していないので、こうした検閲が起きるのは当然だと言える。

■政府の思惑や嘘が混じり合う

DeepSeekから出てくるアウトプットは検閲されているため、中国的な価値観に寄せた偏った情報が出力される可能性もあり、そもそも中国が都合よくねじ曲げた歴史的な情報が出てくるかもしれない。

ユーザーがそうした情報の真偽を検証しないまま信じてしまう恐れがあり、特に未成年者などの利用には細心の注意が必要だろう。

DeepSeekの開発は2023年に遡る。

創業者である梁文峰は、2015年から「High-Flyer」というヘッジファンドを運営しており、そこで得られた資金でDeepSeekを立ち上げた。いくつかのバージョン開発を経て、DeepSeekという世界を揺るがすAIの開発に成功した梁文峰は、言うまでもなく評価されるべき人物だ。

ただ、DeepSeekの水面下では、政府の思惑や嘘が混じり合う。中国製の高性能AIの登場は、AIをめぐる覇権争いの実態を改めて認識させる契機になったとも言えよう。