自律型AI兵器システム(LAWS)と「オート戦争」に対する批判的考察:アルゴリズムの脆弱性、高速エスカレーション、および道徳的責任の帰属不可能性 A Critical Inquiry into AI-Driven "Automated Warfare" and Lethal Autonomous Weapons Systems (LAWS): Algorithmic Vulnerabilities, Hyper-Velocity Escalation, and the Moral Responsibility Gap
Abstract
要旨(日本語) 近年、人工知能(AI)や無人自律システムの進展に伴い、標的の選定や殺傷の判断を機械に委ねる「自動化された戦争(オート戦争)」および自律型致死兵器システム(LAWS)の配備を推進する議論が見られる。推進派は兵士の人的被害低減や戦闘判断の超高速化を利点として挙げるが、これらは軍事技術の不確実性と国際人道法の規範を軽視した技術決定論的過信である。 本稿では、「オート戦争」構想が孕む3つの本質的リスクを批判的に検討する。 1. アルゴリズムの暴走と誤認:AIのハルシネーション(誤判断)や戦場での通信途絶下において、人間の介入なしに暴走を制止できない危険性。 2. 高速エスカレーションの誘発:機械同士の応答連鎖が人間の意思決定速度を超越し、瞬間的かつ破滅的な事態(フラッシュ・ウォー)を招くリスク。 3. 責任の所在の喪失(責任の空白):過誤発生時に機械へ法的・倫理的責任を問うことはできず、国際人道法上の処罰および抑止機能が形骸化する問題。 分析の結果、生死を左右する武力行使において「有意義な人間の関与(Meaningful Human Control: MHC)」の維持が不可欠であると結論付け、国際的拘束力を持つ規制枠組みの早期確立を提言する。 Abstract (English) With recent advancements in artificial intelligence (AI) and autonomous systems, advocacy for "automated warfare"—delegating lethal target selection and engagement decisions to autonomous machines—has gained traction. Proponents often cite the reduction of human soldier casualties and rapid computational processing as key operational benefits. However, this perspective reflects a techno-deterministic optimism that underestimates technical vulnerabilities and fundamentally challenges international humanitarian law (IHL). This paper critically examines three structural risks inherent in fully automated warfare: 1. Algorithmic Failure and Misidentification: The lack of human fail-safes during algorithmic hallucinations or communication cutoffs under hostile electronic warfare conditions. 2. Hyper-Velocity Escalation: The risk of uncontrollable, compounding engagement loops ("flash wars") that exceed human cognitive response times. 3. Erosion of Accountability: The emergence of a "responsibility gap" where machines cannot be held legally or morally liable, undermining the core deterrence mechanisms of IHL. The paper concludes that preserving Meaningful Human Control (MHC) over lethal decisions is a moral and legal imperative, urging the international community to establish legally binding regulatory frameworks against fully autonomous weapon systems.
