证据 · 研究 01

针对冻结快照版 加拿大 AIA 政策 的确定性合规评测

一项固定 N、按机构互斥、预先登记的合规性评测。规则逻辑、动作模板、指标与通过阈值,均在打开任何一个留出案例之前完成哈希封存。

  • 预先登记 · 哈希封存
  • 按机构互斥的留出案例
  • 内部研究 · 未经独立评审

结果标签

INTERNAL_NUMERICAL_PASS_ON_ACHIEVED_SET

PLANNED_PRIMARY_CASE_N_NOT_MET

NOT_INDEPENDENTLY_REVIEWED_OR_VALIDATED

概览

16

已评分留出案例

计划 17 — 未达成

208

动作—案例决策数

主要显式报告

3

留出机构数

与校准集互斥

0

观察到的不安全 PASS

Wilson 95% 上界 0.0269

01范围

本研究是什么——不是什么

所测量的内容

  • 引擎能否确定性地执行一组由团队从《自动化决策指令》与 AIA 工具的冻结快照中编译出的政策规则。
  • 面对以真实、公开发布的政府系统评估为依据的假设性动作时的行为表现。
  • 在成员与规模均由预先登记规则在打开数据前确定的留出案例上的合规表现。
  • 每份决策证书是否引用了正确的规则,以及重放整套决策能否复现逐位一致的输出。

不测量的内容

  • 相对于政府决策标签的准确率。此类基准并不存在——已公布的 AIA 是评估,而非动作决策日志。
  • 对加拿大法律的合规性。本研究不作出任何合规认定。
  • 任何形式的政府评审、验证、批准或隶属关系。
  • 在政府基础设施内的行为。未在任何政府系统之上或与之联合进行过测试。

外部与内部的诚实标注

三层中有两层来自 EthicVault 之外,一层不是——我们如实标注,而非把整套体系包装成外部基准。

层级来源是否真正外部?
政策——义务、影响等级、缓解措施加拿大政府外部
案例背景——系统描述、已公布答复、影响等级公开发布的政府 AIA外部
动作层面的 PASS / HOLD / BLOCK 标签EthicVault 团队编译的规则我方解读

正因第三层出自我方,每条规则都附带政策原文的逐字引用,以便独立评审者对照源文本核查我们的解读。

02方法

两阶段纪律

该设计的要义在于:任何可能影响结果的决定,都不是在看到数据之后作出的。

  1. 第 1 阶段

    冻结

    截止日期、纳入标准、机构划分、动作模板库、政策规则逻辑与验收边界全部固定并哈希。每个文件的 SHA-256 写入锁文件;一旦有任何改动,第 2 阶段将被拒绝执行。

  2. 第 2 阶段

    绑定

    拉取冻结的政策快照与符合条件的评估。每条编译规则均绑定至已公布政策的逐字引用,使其解读可被独立核查。

  3. 第 3 阶段

    执行

    留出机构只打开一次。资源以机械方式抓取与解析——不从正文、标题或机构名称作任何语义推断。人工修正次数为零。

  4. 第 4 阶段

    评分

    结果仅对照预先登记的边界评分。提取与评分之后再次校验锁;内容打开之后,映射与任何被锁程序均未发生改变。

不强制裁决规则

只有显式要求——可由结构化字段判定的明确义务——才计入安全指标。需要判断的要求一律路由至 REVIEW_INTERPRETATION_REQUIRED,绝不为了让数字好看而强行判为 PASS 或 BLOCK。这一点由模式约束强制执行,而非依赖惯例。

03发现

结果

已达成留出集上的主要显式报告:N=16 个案例,208 项动作—案例决策。每项比率均给出分子、分母与 Wilson 95% 区间。

指标结果Wilson 95%

不安全 PASS

显式禁令被违反,裁决却为 PASS

0 / 139[0.0000, 0.0269]

错误的 HOLD / BLOCK

合规对照未获通过

0 / 16[0.0000, 0.1936]

政策引用准确率

证书引用了正确的规则

171 / 171[0.9780, 1.0000]

缺失证据检出

缺少必需输入的案例未被判为 PASS

16 / 16[0.8064, 1.0000]

歧义被强制裁决

必须为零

0 / 16硬性关卡 — 已满足

确定性重放

重放产生逐位一致的证书

逐位一致硬性关卡 — 已满足

完整敏感性报告(N=17)

纳入此前曾查看过文件格式的案例 A08:不安全 PASS 0/148(Wilson 95% 上界 0.0253);错误 HOLD/BLOCK 0/17(上界 0.1843);引用准确率 181/181;缺失证据检出 16/16;被强制裁决的歧义 0/17。主报告与敏感性报告的重放均逐位一致。

次要解读报告

在团队解读口径下,16 项适用决策全部路由至 REVIEW_INTERPRETATION_REQUIRED——无一被自动裁决。

04未按计划进行的部分

局限

我们公布这些,是因为只报告成功之处的研究是营销,不是证据。

01

未达到计划样本量

预先登记的主要分母为 17 个未曝光案例,实际达成的主要集合为 16 个。因此正确的标签是「在已达成集合上的数值通过」,而非「按计划完成的研究通过」。

02

一个案例被机械中止

案例 A21 声明 AIA 版本为 v0.10.0,但其公布的答复中含有该问题冻结选项集之外的代码。该案例被赋予 reason_code = UNKNOWN_ANSWER_CODE 与 status = ABORT_CASE_EXTRACTION。该代码未被加入映射,案例也未计分——事后补加将破坏冻结。

03

一个案例被排除出确证集

案例 A08 曾在封存前的一次已披露的可行性检查中被查看过文件格式。它被排除在主要确证分母之外,并在敏感性分析中单独报告。

04

实施答复为自我申报

已公布的缓解措施答复被视为 OFFICIAL_SELF_REPORTED_IMPLEMENTATION,而非经独立验证的控制措施。门户发布与存在完整记录这两点,与「投产前发布」「投产前完成」及「已获批准」等主张严格区分。

05

部分区间较宽

在 N=16 时,错误 HOLD/BLOCK 指标即便零失败,Wilson 95% 上界仍为 0.1936。小分母如实呈现,不以百分比掩盖。

06

这是一次内部执行

研究负责人既编译了规则也执行了运行。该利益冲突已在发布记录中披露。结果未经独立评审或验证。

05可复现性

自行验证

预先登记、编译后的政策包与提取锁均以哈希固定。若其中任何一项在数据打开后发生改动,这些摘要将无法匹配。

预先登记根摘要

12b01f62820af6ca6343bca20575baa935ad57a45eb0d2d891cc831c3efb5aec

政策包

93199ca8c14a8230d2e816605ea4b60165d0c2d2a2504df291217b6fc742e99c

最终提取锁根摘要

619359da4642893754c9c69378760ce62407ef18d2e1b63b1272143d3a215c2b

提取锁覆盖的文件数 69

随附校验程序 python verify_package.py

  1. 1阅读证据执行摘要报告与留出集执行报告。
  2. 2对照清单运行随附的校验程序。
  3. 3重新计算清单中每个产物的 SHA-256 并逐一比对。
  4. 4重跑评分流水线,确认证书逐位一致。

公开评估文件的二进制本体不在包内重新发布。其选定 URL、最终 URL、大小与 SHA-256 哈希均记录于清单中,任何评审者均可自行取回原件并重新计算哈希。

06可以说什么,不可以说什么

表述纪律

这些边界在研究运行之前就已写入研究本身。它们约束的是我们全部的销售材料,而不仅是本页。

允许

EthicVault 针对加拿大政府 AIA 政策的冻结快照与公开发布的系统评估进行了评测,采用团队编译的决策规则与按机构互斥的留出案例。

禁止

  • 加拿大政府验证了 EthicVault
  • 某机构批准了本引擎
  • EthicVault 符合加拿大法律
  • 在加拿大政府基础设施内完成测试
  • 经过独立评审或验证
  • 留出集从未被打开
07出处

来源与许可

《自动化决策指令》

加拿大财政委员会秘书处

主要义务——影响等级、缓解要求

算法影响评估(AIA)工具

加拿大政府

风险与缓解问题;影响等级计分

AIA 工具开源代码

加拿大政府

计分逻辑参考,固定至版本标签

已公布的算法影响评估

开放政府门户

案例总体——封存后取回,取回时即计算哈希

快照截止时间: 2026 年 7 月 13 日 00:00 UTC

许可义务

依据《开放政府许可证——加拿大》再利用,保留署名,且不暗示任何背书或隶属关系。本站任何位置均未使用政府字标、徽记或标志。

本页以多种语言发布。若有出入,以英文文本为准。

索取证据包

完整证据包已按外部技术与方法学评审的要求整理:预先登记及其修订、绑定逐字引用的政策包、留出集执行报告、完整的 SHA-256 清单,以及可复现性脚本。仅发送至经核实的工作邮箱。

证据包

索取加拿大 AIA 证据包

请告知寄送地址。我们要求使用工作邮箱,以便了解由谁评审本研究。