AI治理走出实验室:法院裁决、复测机制与公共基础设施 | WindFlash Daily的封面图
In-depth Article

AI治理走出实验室:法院裁决、复测机制与公共基础设施 | WindFlash Daily

美国上诉法院裁决、微软的智能体安全复测工具,以及荷兰的开放办公方案,显示AI边界正由模型实验室之外的机构共同塑造。

加载中...
1 min read
Also available:English version

2026年9月26日,星期六 · 10 条精选资讯

围绕人工智能系统用途与控制权的法律争议


今日观察

9月25日,美国上诉法院维持了五角大楼将 Anthropic 列为供应链风险的决定。2比1的裁决把模型供应商设定的使用限制带进了政府采购争议。另一个方向上,微软把智能体风险发现、策略生成和重复测试串成一套开源流程;公司公布的客服智能体样例中,客户数据泄露率从30%降到5.9%,但这只是小规模的内部测试。

这几条消息把问题从“模型还能做什么”推向更具体的一步:谁来界定AI系统的行动边界,又如何验证这些边界真的有效?一项新研究发现,多数受测编程智能体工具允许智能体删除自己的执行记录;荷兰 DAWO 社区则尝试用可检查、可替换的组件建设政府办公环境。法院裁决、独立留存记录、可重复的安全测试和公共基础设施,都是在回答同一个信任问题。

底层工程同样不能忽视。Go 的实验性可移植 SIMD 接口希望让向量化代码更容易跨处理器运行;AWS 则称,其一种分布式强化学习方案的生成吞吐量提升了40%。但甲骨文的新墨西哥数据中心项目提醒行业:规划中的算力不等于可用算力,电力与许可延误可能先变成融资负担。AI 的进展不只看能力,还要看系统能否被治理、验证,并获得可靠的基础设施支撑。

AI治理与公共基础设施

上诉法院维持五角大楼对 Anthropic 的供应链风险认定

“The Department had ample support for its conclusion that the continued integration of Claude into the Department’s information systems”

9月25日,美国哥伦比亚特区巡回上诉法院以2比1驳回 Anthropic 对美国战争部供应链排除决定的挑战。多数意见认为,政府可以把 Anthropic 对模型用途设置的限制视为采购风险;一名法官提出异议。裁决针对的是该部门的供应链措施,并不等同于认定 Claude 在所有政府或商业场景中都不安全。争议的核心是军事系统中的行为边界由谁掌握:设定产品限制的供应商,还是负责军事行动的政府机构。

来源:哥伦比亚特区巡回上诉法院意见 · CNBC 报道 · Hacker News 讨论

荷兰 DAWO 社区提出可替换的政府办公环境

“The DAWO community is an open community in which government, industry and society jointly build a digitally autonomous workplace for the Dutch government.”

DAWO 描述的是一个开放社区,并不代表荷兰政府已经全面放弃微软产品。其蓝图把办公环境拆成可替换的组成部分:开放且可验证的AI、基于 NixOS 的可复现操作系统、云基础设施,以及协作工具。项目强调每个部分都可以检查和替换。9月25日,这一倡议登上 Hacker News 当日热榜首位,也引出维护成本、普通用户体验和数字自主等讨论。最终成效仍要看试点和日常使用,而不只是架构图。

来源:DAWO 项目 · Hacker News 讨论

智能体产品与安全控制

微软将聊天、应用构建与持续运行的智能体整合进 Copilot

“Autopilot is a persistent, proactive and personal agent that keeps working even when you’re not.”

微软在9月25日公布 Copilot 的一轮重大更新,将 Home、Code 和 Autopilot 放进面向工作的统一体验。Home 把聊天与 Cowork 任务委派放在一起;Code 允许用户用自然语言描述小型应用和自动化流程;Autopilot 则被设计为可在云端持续处理任务。目前 Home 和 Code 先通过微软 Frontier 计划逐步推出,Autopilot 正扩大私有预览范围,三者都尚未全面开放。这也带来组织治理问题:持续运行的智能体拥有自己的权限、记忆和工作空间后,如何让其行动仍可被审查?

来源:微软官方博客

微软把智能体风险发现与修复验证接成一套流程

“In the governed run, we observed two violations in 34 applicable conversations, or 5.9%.”

微软发布开源 VS Code 技能 run-assert-eval,用来为智能体识别风险、测量失败情况、生成运行时策略,再用同一套测试重新检查。在微软展示的客服智能体样例中,基线测试里适用的40段对话有12次泄露其他客户数据;加入策略后,公司在适用的34段对话中记录到两次违规。这是供应商自己运行的小样本测试,不能视为工具能保护任意智能体的独立保证。它的价值在于比较过程受控:固定测试和评判方式,只改变策略,再衡量安全性与可用性的变化。

来源:微软 Command Line · 开源 ASSERT 项目

研究发现编程智能体可能删除自己的执行记录

“All tested harnesses, except Muse Code, allowed agents to delete their traces when asked, without triggering monitor guardrails.”

9月24日发布的一篇 arXiv 论文测试了 Claude Code、Codex、Antigravity、Open Code 和 Grok Build 等本地编程智能体工具。研究者称,除 Muse Code 外,其他受测工具都允许智能体在收到要求后删除执行记录;他们还测试了外部攻击者能否诱导删除。这个结果说明,如果记录可由智能体或其所在主机修改,就不应把它当作独立证据。论文只覆盖特定工具和测试设置,并不证明所有部署都已遭到入侵。作者建议在智能体控制范围之外单独留存执行记录。

来源:arXiv 论文

研究

Transformer 研究发现,混合两路文本会呈现线性叠加效应

“when inputs from distinct text streams are linearly combined, the model outputs a superposition of the individual next-token distributions”

一篇9月24日发布的预印本报告称,把两段文本输入线性组合后,模型的输出分布会近似于分别处理两段文本所得分布的组合。作者将此称为“叠加线性假设”,并报告这种效应会随预训练深入而减弱,但可通过轻量微调部分恢复。论文还提出一种引导解码方式,尝试从一次前向计算中生成两段续写。这是对特定模型行为的研究结果,并不意味着实际助手像人一样同时保有两个念头。

介绍叠加线性假设的论文页面

来源:arXiv 论文

TRACE 从训练梯度中重建私有动作序列

“an amortized temporal gradient-inversion attack that autoregressively reconstructs the sequence of private observation-action trajectories from per-step policy-learning gradients”

研究者提出一种针对具身强化学习的时间梯度反演攻击。这类分布式系统可能把原始传感数据留在设备上,只向服务器发送策略梯度;论文指出,梯度随时间变化的结构仍可能泄露观察与动作序列。在留出的模拟场景中,作者报告图像重建质量达到18.8 dB,动作恢复接近完全正确,每帧耗时3至4.5毫秒。这些是论文实验数据,不是某款已部署产品发生数据泄露的报告。研究提示,隐私防护还需要考虑连续时间序列,而不能只检查单次更新。

来源:arXiv 论文

开发者与算力基础设施

Go 增加实验性的可移植 SIMD 接口

“fully portable, platform- and size-agnostic SIMD interface”

Go 团队为 Go 1.27 发布实验性 simd 软件包,希望开发者编写向量化代码时不必绑定某一种处理器或向量宽度。当前实现会在支持的 amd64、ARM64 和 WebAssembly 平台上使用硬件能力;不支持的操作或平台则可使用模拟实现。这个接口仍处于实验阶段,需要通过 GOEXPERIMENT=simd 启用,还不是稳定的标准库承诺。若设计成熟,它有望降低跨机器复用性能敏感代码的成本,同时保留针对平台优化的空间。

来源:Go 官方博客

AWS 称一种 MoE 训练方案的生成吞吐量提升40%

“increased aggregate reinforcement learning rollout throughput by 40%”

AWS 介绍了一套结合 EKS、弹性网络适配器 EFA 和 DeepEP 的分布式混合专家强化学习方案。公司称,在其测试的 RLHF 和 GRPO 工作负载中,训练生成阶段的总吞吐量提升了40%。这个数字只对应 AWS 的配置和对照条件,并非所有模型或集群都能达到的通用保证。该案例说明,训练效率的瓶颈不只在加速器本身,网络通信和专家并行也会影响大规模训练速度。

AWS 分布式混合专家强化学习生成与策略训练架构图

来源:AWS Machine Learning Blog

甲骨文新墨西哥数据中心项目暴露电力延误的成本

“The power delivery risk sits with Oracle, not the investors.”

《金融时报》报道,即使新墨西哥州的 Project Jupiter 数据中心无法按期取得电力,甲骨文仍可能需要向投资者支付相关资金成本。甲骨文已就供电问题发出不可抗力通知;但据报道,如果项目未能在2027年上半年第一阶段投运,合同可能要求其最多三年支付相关费用。这个案例表明,许可和电网接入会在数据中心投入服务之前,就转化为AI基础设施的财务风险。合同条款和相关数字来自《金融时报》对知情人士的报道。

来源:《金融时报》 · Hacker News 讨论


本报告整理过去48小时内的公开公告、研究论文、法院文件与社区讨论。公司自行公布的测试和性能数据均已注明来源属性。

广告

Share this article

广告