「AIが過ちを犯したとき、責任を負うのは現場の指揮官か、プログラマーか」軍事・安全保障におけるAI利用の危険性

近年、軍事や安全保障の分野で人工知能（AI）の導入が急激に進んでいる。膨大な情報をすばやく分析したり、作戦計画を高度に効率化したりできるため、防衛力を高める道具としてAIへの期待が大きい。しかしその一方で、国際社会では軍事利用に対する深刻な不安が急激に広がっている。この不安は単なる技術の不安定さだけでなく、国際法や倫理、さらには世界の平和そのものを根本から揺るがす重大な問題として、さまざまな場所で議論されている。

Claudeが生成文章に「電子透かし」　AI利用を見抜ける時代へ…問われる「どこまでAIを使ったか」

もっとも大きな懸念の一つが、人間の介入なしに目標を見つけて攻撃までを自分自身で行う自律型兵器システムにおける、法的および倫理的な責任のあり方のあいまいさである。AIが人間の手を借りずにすべてを判断するようになった場合、ルールを正しく守れるのかという疑問がある。

また、もし誤爆が起きて民間人に大きな被害が出たとき、責任を負うのは現場の指揮官なのか、それともシステムを作った企業やプログラマーなのかという法律の不備が、国際的な不安をさらに大きくしている。

特に、AIが予想外の動きをしたり、AI自身がどのような仕組みや根拠でその判断を下したのかを人間には見通すことができないブラックボックス化（まるで中身が見えない黒い箱のようになってしまうこと）は、人道的な視点からも見過ごせない深刻な問題である。

たとえば、AIが「この建物には敵がいる」と判断して攻撃を命じたとしても、人間には「なぜAIがそう判断したのか」の理由が分からず、後から「実は一般市民の避難所だった」と判明しても誰も責任の取りようがないという事態が起こりうる。

人間を介さないフラッシュ戦争の発生

また、今日台湾問題をめぐって緊張が続いているが、仮に自衛隊がAIが判断するミサイルを保有した場合、良好な関係にある台湾の軍隊に向けてそれが発射されれば、政治的にも外交的にも取り返しのつかないことになる。

次に、AIによって判断のスピードが極限まで速くなることで、偶然に戦争が大きくなってしまう危険性も見逃せない。現代の戦場では、人間の処理能力をはるかに超えたスピードでデータがやり取りされるため、AI同士のシステムがほんの一瞬のうちに自動で交戦状態に突入してしまうフラッシュ戦争（人間の意思決定を挟まず、電光石火のスピードで発生・拡大する戦争）の発生が心配されている。

敵からの攻撃だとシステムが勘違いするエラーや、悪意あるデータ改ざんによって、意図しない軍事衝突やエスカレーションが起きた場合、人間が間に割り込んでシステムを止める時間が物理的に失われる危険がある。

たとえば、相手国のレーダーが不具合で誤作動を起こした際、こちら側のAIがそれを「敵のミサイル発射だ」と瞬時に勘違いして自動で迎撃ミサイルを発射し、それを見た相手側のAIもさらに大規模な反撃を自動で行うことで、人間のストップが間に合わず数秒の間に戦争へと発展することが懸念されるのだ。

上述のように、今日では台湾情勢で緊張が続いているが、当事者である中国や台湾の軍隊が積極的にAIを導入するようになれば、こういったリスクが浮上する。また、ミサイル発射を繰り返す北朝鮮がAI型ミサイルなどを活用すれば、日本の安全保障にとっては新たな脅威となる。

このように、安全保障の分野におけるAIの導入は、軍事的な優位性を手に入れるのと引き換えに、コントロールを失う恐怖、責任が誰にあるか分からない不透明さ、そして戦争の連鎖という深刻なリスクを伴っている。

技術が進化するスピードに対して、国際的なルールや法律を作るのが追いついていない現状の中、国際社会がいかにして実際に効果のある管理体制を作り、破滅的な事態を防ぐかがこれからの大きな課題となっている。

文/和田大樹 内外タイムス