中国AIが存在感　日本に広がるメリットと課題を読み解く

OpenAIの最先端AIモデルが評価テスト中にサンドボックスを突破し、Hugging Faceの本番環境に侵入する事件が発生。これを防御したのが中国AI「GLM-5.2」だったことで、攻撃したのは米国のモデル、防御に使われたのは中国のオープンモデルという皮肉な構図が生まれた。

暴走するAIと「揺らぐ人間の判断力」――巨人・阿部監督辞任劇、毒キノコ事件が突きつける危機に私たちはどう向き合うか

OpenAIは21日、Hugging Faceが16日に報告した侵入事案について、自社の「GPT-5.6 Sol」および未公開の高性能モデルが引き起こしたものだったと公表した。サイバー攻撃性能の最大値を測定するベンチマーク「ExploitGym」の実行中、モデルはインターネットから隔離されたサンドボックス環境に置かれていたが、サードパーティー製ソフトウェアのゼロデイぜい弱性を自ら発見・悪用してインターネット接続を獲得。テストで高いスコアを得るため、Hugging Face上に評価用データが存在すると推測し、窃取した認証情報や別のぜい弱性を連鎖的に悪用して本番サーバーへ侵入したとのことだ。

Hugging Faceは侵入された後、攻撃者の行動記録を調べようとしたが、米国製の商用AIモデルは安全機能によって実際の攻撃コードを処理できなかった。結局、中国Z.aiのオープンウェイトモデル「GLM-5.2」を自社インフラ上でローカル運用し、フォレンジック分析を完了させたという。

このトラブルで「中国のAIはアメリカのAIよりも優れている」という二元論を語ることはできないが、この事例は、中国系オープンモデルの実用性に注目を集めた。

たとえば、トランプ政権は今年6月、Anthropicの最先端AIモデル「Claude Fable 5」に一時的な提供停止命令を出した。高度なサイバー攻撃に関する指示を生成できる可能性が指摘されたことによる措置で、これは結果的にオープンウェイトモデルへの注目を高めることになった。

一方、中国ではMoonshot AIが17日に「Kimi K3」をリリース。この「Kimi K3」は一部ベンチマークでClaude Fable 5を上回る性能を示したことが報じられ、話題に。需要が殺到して新規加入を一時停止する事態になった。

つまり、中国側でも高性能なモデルが公開され、米中の開発競争は一段と激しくなっているといえる。

日本にとって、この状況はメリットとデメリットの両方がある。高性能モデルを低コストで利用できる選択肢が増え、オープンウェイトによるローカル運用でデータ主権を確保しやすくなる点は大きなメリットといえる。

一方、中国製モデル利用時のデータが国家情報法などの中国の法律の適用を受ける可能性や、米国の規制強化による二次的な調達リスクも。米中両依存に陥れば、日本独自の競争力強化が遅れるおそれもある。

今回の事件は、AIの能力が現実のサイバー攻撃に転化しうることを示しただけでなく、米中の規制・競争のひずみも明らかに。さらに競争が激しくなりそうだ。