English · Italiano · Français · Deutsch · Español · Português · Русский · 中文 · 日本語

← 返回 Human Flag

人工智能系统中的合法运行保障

投降识别、合规架构与国际人道法

Giovanni Nardacci — Founder, Human Flag Association
humanflag.org
Working Paper — V9, 23 September 2026 · Concept DOI: 10.5281/zenodo.21932439


摘要

禁止攻击失去战斗力的人是习惯国际人道法的一项规则,反映在红十字国际委员会习惯国际人道法研究的第 47 条中,并在《海牙章程》第 23(c) 条中得到了历史性的表述。其实际操作的前提是,一旦出现投降意图,就可以在武力变得不可逆转之前表达、感知并转化为停止攻击。

本文认为,保留这一间隔(即承认窗口)并不是一项新义务,而是一个多世纪以来约束当事人的义务的有效性条件。随之而来的还有另外三个条件,每个条件都是在部署之前而不是在现场固定的。系统必须保存其正在参与的内容的表示,可以对受保护状态的更改进行操作;如果不存在这样的状态,则及时到达的指示无需采取任何行动。注册变更的函数不得依赖于产生参与决策的处理链,因为产生识别需求的错误可能会抑制识别。如果要在部署后仍可检查合规性,则必须在部署前提供可重构性。

如果系统可预见的正常使用会涉及在这种情况下应被视为失去战斗力的人员,则审查必须审查该系统是否保留了合规的实际可能性。系统地排除与该问题相关的技术上可实现的保障措施是一项法律具有审查手段的决定,并且在适用程序制度的情况下,该决定应记录在案。


说明

第 9 版以时间术语而非行为主体术语表述该标准。原题为“人类控制的压缩”的 IV.C 节现称“时间不对称与窗口关闭”。决策过程中存在人类仅是与该问题相关的证据,并非标准本身。

II.C 节明确,克制义务属于指挥官并在现场履行,而能否履行该义务早在选择手段时就已确定。全文还统一使用“检测延迟”和“法律审查”等术语。

取代 2026 年 9 月的第 8 版。相关分析:Systemic Arrestability(Paper II),Zenodo 概念 DOI 10.5281/zenodo.20837150。相关工作:HFA-TN-04,Zenodo 概念 DOI 10.5281/zenodo.22275485。

引用方式

Giovanni Nardacci, 'Lawful Operational Safeguards in AI Systems: Surrender Recognition, Compliance Architecture, and International Humanitarian Law' (2026), Zenodo concept DOI 10.5281/zenodo.21932439.

下载

📄 Download PDF 📑 View on Zenodo

关键词

International Humanitarian Law · Autonomous Weapons · AI Governance · Lawful Operational Safeguards · Surrender Recognition · Meaningful Human Control · Temporal Compression · Defence Procurement · IHL Compliance Architecture · Article 36 AP I · Article 41 AP I · Article 57 AP I


相关工作

本文分析的时间结构并非国际人道法所独有。关于民用机器安全法中的平行论证,参见:Systemic Arrestability: Operator Protection in Machine Safety Law When Machine Speed Exceeds Human Reaction(Paper II,2026),Zenodo concept DOI 10.5281/zenodo.20837150。

本文提出的可行性标准在 HF SIGNAL 01(Paper III,2026),Zenodo concept DOI 10.5281/zenodo.21183137 中用于评估一项候选识别协议,并在 HFA 技术说明系列中进一步扩展。


本文提出一个分析框架,其依据是第二节所审查的习惯法禁令,以及为受其约束的国家规定该禁令的条约条款;本文无意解决有争议的条约解释问题,也无意在上述条款本身所规定的义务之外确立具有约束力的行为标准。

Human Flag Association — Bellinzona, Switzerland