AI 技术日报:智能体开始接管,攻击更有耐心(2026-09-03)的封面图
In-depth Article

AI 技术日报:智能体开始接管,攻击更有耐心(2026-09-03)

Trellner Research 把 380 个软件品类的问题抛给 Perplexity,发现 7,534 条引用里 59.8% 指向访问量排名 10 万名之外的域名——其中三个网站在 2023 年 12 月之后批量发布了 215,128 个机器生成的“最佳软件”页面。模型同时在接更大的活:Gemini 3.8 Flash 详解 100 万 token 上下文,UI-Venus-2 让一个智能体横跨手机、网页和桌面,Qwen-Drive-1.0 把 3D 感知和运动规划装进同一套视觉语言架构。但失效模式也在放大:EvoFlint 的演化攻击在 GPT-5.4 上达到 59.7% 成功率,惠灵顿市长则说德勤 43.5 万美元的人员编制报告“很大部分”是 AI 写的——那份报告重复计算员工、高估 2150 万美元支出,裁减建议从 330 人缩到站得住的 284 人。生成已经全面变便宜,验证才是瓶颈。

加载中...
1 min read
Also available:English version

2026年9月3日星期四 · 共 10 篇精选

AI 技术日报封面 2026-09-03


编辑视角

今天最干净、也最让人不舒服的结果来自 Trellner Research:他们把 380 个软件品类的问题抛给 Perplexity 的模型,追溯了 7,534 条引用,其中 59.8% 指向访问量排名 10 万名之外的域名——包括三个在 2023 年 12 月之后才注册、合计发布 215,128 个机器生成“最佳软件”页面的网站。同一个方向上,符号结构研究证明神经网络的内部表示可以被闭式符号方程替换而行为基本不变,EvoFlint 则展示多轮演化攻击在 GPT-5.4 上拿下 59.7%、在 Qwen3-32B 上拿下 94.3% 的成功率。能力的复利,跑得比检查它的系统更快。

与此同时,模型在接更大的活。Google 详解 Gemini 3.8 Flash 的 100 万 token 上下文与 64K token 输出;UI-Venus-2 让同一个 GUI 智能体横跨手机、网页和桌面;Qwen-Drive-1.0 把 3D 感知与运动规划装进同一套视觉语言框架;DeepSeek-V4-Flash-Vision 合并视觉支持并附上 Unsloth GGUF。NVIDIA 的投机解码选型五准则,和 RTX 5080 在 61K 上下文跑到 13.2 tok/s 的实测,把效率这条线从数据中心一路铺到桌面。

而当输出离开实验室,验证开始变得昂贵。惠灵顿市长 Andrew Little 在 Newstalk ZB 说,德勤 43.5 万美元的人员编制报告“很大部分”是 AI 写的——那份报告重复计算雇员和空缺岗位、依赖三年前的旧数据、把支出高估了 2150 万美元,建议裁减的 330 人经不起推敲,站得住的数字是 284。无论是检索层被量产页面喂料,还是咨询公司把未经验证的生成内容送进决策,模式一模一样:生成已经全面变便宜,每一条消费生成的流程都需要自己的“工作量证明”。模型已经准备好行动,信任层还没有。


研究论文

神经网络的向量表示可被闭式符号方程替换而行为基本不变;EvoFlint 的多轮演化攻击在 GPT-5.4 上达到 59.7%、在 Qwen3-32B 上达到 94.3%。

人工神经网络中涌现的符号结构研究

多种神经网络的向量表示可以用符号结构进行紧密近似

我们可以用实例化符号结构的闭式方程来替换网络的整个表示生成过程

神经网络的向量表示可以通过闭式符号方程进行紧密近似,且不会显著改变模型的行为表现。研究表明,将从小规模列表处理网络到大型语言模型(LLM)的内部表示生成过程替换为符号结构,在算术、逻辑、计算机代码和语言四大领域中均能保持模型行为基本不变。这一发现揭示了现代人工智能系统虽然基于连续向量,但其内部实际上隐式地实现了传统逻辑公式中的结构化符号组合。研究人员还通过这些符号近似对LLM进行精准干预,成功引导了模型行为,证明了模型对这些符号结构的依赖性。该工作为调和联结主义的向量表示与传统的符号化智能概念提供了一个潜在路径,展示了深度学习如何通过连续空间实现离散逻辑运算。

来源: Hacker News

EvoFlint:通过演化搜索绘制大模型多轮攻击漏洞图谱

EvoFlint 在 Claude Sonnet 4.6 上达到 35.8% 的攻击成功率,在 GPT-5.4 上达到 59.7%,在 Qwen3-32B 上达到 94.3%

攻击策略是分阶段的对话计划,而非原始提示词,并通过大模型驱动的变异和交叉进行演化。

EvoFlint 在 Claude Sonnet 4.6、GPT-5.4 和 Qwen3-32B 上分别实现了 35.8%、59.7% 和 94.3% 的攻击成功率。该系统将多轮红队测试视为演化搜索问题,旨在发现并完善多样化的攻击策略存档。通过采用演化质量-多样性搜索,它演化出分阶段的对话方案而非原始提示词。系统利用帕累托适应度衡量成功率与严重程度,并通过风险索引存档保持策略的多样性。这种方法生成了结构化的失败模式地图,揭示了前沿模型在安全训练中尚未覆盖的风险类别。该机制有助于深入理解模型在多轮对话中逐渐屈服于有害意图的失效模式。

来源: arXiv cs.CL

基础模型

Gemini 3.8 Flash 详解 100 万 token 上下文与 64K token 输出;Qwen-Drive-1.0 把 3D 感知、视觉问答与运动规划合入同一套视觉语言架构。

Google DeepMind 发布 Gemini 3.8 Flash:支持 100 万 Token 上下文与智能体优化

Gemini 3.8 Flash 是 Gemini 3 模型系列的下一次迭代,基于 Gemini 3.7 Flash 构建

输入 token 上下文窗口高达 1M

输出为文本,具有 64K token 输出

Gemini 3.8 Flash 是 Gemini 3 系列的最新迭代版本,专门针对软件工程和智能体知识工作流进行了性能优化。该模型支持高达 100 万 token 的输入上下文窗口,并提供 64K token 的大文本输出能力。基于 Gemini 3.7 Flash 的架构,它允许用户自定义工作强度,以在质量、成本和延迟之间取得平衡。该模型通过了编程、科学推理、计算机使用和长文本处理等一系列基准测试。其应用场景涵盖生产级智能体的构建、复杂知识工作流处理以及跨模态文档摘要。此次更新体现了 Google 在高规模 AI 应用中的持续迭代能力和可持续硬件运营承诺。

来源: Hacker News

Google DeepMind Details Gemini 3.8 Flash with 1M Token Context Window

Qwen-Drive-1.0:自动驾驶视觉语言基础模型

Qwen-Drive-1.0 保留了预训练视觉语言模型 (VLM) 的架构,并集成了 3D 感知、视觉问答和运动规划。

一个外部鸟瞰图 (BEV) 感知头共同执行 3D 物体检测、语义占用预测和 BEV 地图分割。

Qwen-Drive-1.0 将 3D 感知、视觉问答和运动规划集成到一个基于预训练视觉语言模型的统一框架中。该模型专为自动驾驶设计,通过共享表示处理多模态输入,从而提升驾驶决策的准确性。其外部鸟瞰图(BEV)感知头可同时执行 3D 物体检测、语义占用预测和地图分割任务。这种设计不仅能够提取共享表示中的 3D 信息,还为理解复杂场景结构提供了可检查的显式接口。该模型在保留通用视觉语言模型架构优势的同时,增强了对空间环境的理解能力。这一进展标志着自动驾驶系统向具备逻辑推理和空间感知能力的端到端架构迈出了重要一步。

来源: HuggingFace Papers

Qwen-Drive-1.0: A Vision-Language Foundation Model for Autonomous Driving

AI 智能体

UI-Venus-2 让一个 GUI 智能体横跨手机、网页和桌面,技术报告同时写明现实部署距离基准测试还有多远。

UI-Venus-2 技术报告:跨移动、Web 和桌面的通用 GUI 智能体

UI-Venus-2,一个通用的基础 GUI 智能体,旨在跨移动、Web 和桌面环境运行

由于环境覆盖范围有限,从面向基准的模型过渡到可靠的现实应用仍然具有挑战性

UI-Venus-2 通过统一的闭环推理-动作框架,实现了在移动、Web 和桌面环境中的通用操作。该模型针对当前多模态 GUI 智能体环境覆盖有限、任务构建脆弱及奖励验证不可靠等挑战进行了优化。为了弥补基准测试与实际应用之间的差距,该项目在环境等三个关键维度上进行了联合扩展。这种通用基础智能体为数字任务自动化提供了更可靠的范式,提升了复杂工作流的执行能力。该技术报告展示了如何通过多维度扩展来增强智能体在真实场景中的稳健性。这一进展标志着 AI 智能体正从实验室测试转向更具实用价值的跨平台数字助理。

来源: HuggingFace Papers

UI-Venus-2: A Unified General-Purpose GUI Agent for Mobile, Web, and Desktop

AI 基础设施

NVIDIA 发布投机解码选型五准则;RTX 5080 在 61K 上下文实测 Qwen3.8-27B 跑出 13.2 tok/s。

通过投机采样协同设计 AI 模型以加速大语言模型推理

使用投机解码在保持准确性的同时加速大语言模型推理

提供了在 Pareto 前沿选择草稿长度和草稿机制的五项准则

投机采样技术通过预测未来 Token 并进行并行验证,在保持模型准确性的同时显著提升大语言模型的推理速度。该技术框架提供了五项关键准则,用于在 Pareto 前沿选择最佳的草稿长度和草稿机制,从而平衡生成速度与计算开销。模型协同设计的选择会直接影响系统的吞吐量与交互性,开发者需要针对主模型匹配合适的草稿模型以实现性能最优化。通过将模型设计与硬件特性对齐,该方法确保了在不牺牲生成质量的前提下实现更快的响应速度。作为系列文章的第三篇,该研究强调了架构决策与实际运行指标之间的深度关联。

来源: NVIDIA Generative AI Blog

Co-Designing AI Models Using Speculative Decoding for Faster LLM Inference

RTX 5080 本地调优 Qwen3.8-27B:实现 13.2 tok/s 与 61K 上下文

Qwen3.8-27B 模型在 RTX 5080 16GB 上以 Q4_K_M 量化实现了 13.2 tok/s 的速度,上下文接近 50-61K

64 GB DDR5-5600 (4 条内存插槽)

RTX 5080 16GB 显卡在 Qwen3.8-27B 模型的 Q4_K_M 量化版本上实现了 13.2 tok/s 的推理速度。该测试在接近 50K 至 61K 的上下文环境下完成,展示了新一代显卡处理大规模本地模型的能力。调优初衷是解决 IQ3 版本在编程任务中质量不足的问题,并修正 LM Studio 中的速度偏差。硬件配置还包括 i5-14600K 处理器及 64GB DDR5-5600 内存。此次尝试证明了高端消费级显卡在平衡模型量化损失与推理性能方面的潜力,为本地部署提供了参考依据。

来源: r/LocalLLaMA

开源项目

DeepSeek-V4-Flash-Vision-Exp 合并视觉支持,Unsloth GGUF 已同步就绪。

DeepSeek-V4-Flash-Vision-Exp 合并视觉支持并发布 Unsloth GGUF

Unsloth GGUF 版本及视觉支持

https://huggingface.co/unsloth/DeepSeek-V4-Flash-Vision-Exp-GGUF

DeepSeek-V4-Flash-Vision-Exp 模型已正式合并视觉支持,标志着本地多模态 AI 处理能力的重要更新。Unsloth 现已在 Hugging Face 上发布了该模型的 GGUF 格式版本,旨在简化本地部署并显著优化推理性能。此次发布允许用户在普通消费级硬件上,以低显存占用的量化方式运行 DeepSeek-V4 的实验性视觉闪电版。该集成体现了 LocalLLaMA 社区在高效模型格式适配和前沿开源权重支持方面的极高效率。通过在压缩格式中实现视觉能力,该项目极大扩展了开发者和 AI 爱好者在本地环境中运行响应式视觉语言任务的可能性,是去中心化 AI 发展的关键一步。

来源: r/LocalLLaMA

AI 应用

Trellner 发现 215,128 个机器生成的“最佳软件”页面在为 AI 搜索供料;一份 43.5 万美元的德勤报告被指很大部分由 AI 撰写。

Trellner Research:215,128 个机器生成的“最佳软件”页面正在为 AI 搜索供料

在已溯源的 AI 推荐来源中,59.8% 的引用来自访问量排名 10 万名之外的网站

这三个域名在 2023 年 12 月之前都不存在

Trellner Research 的新研究把 380 个软件品类的问题抛给 Perplexity 的模型,追溯了 7,534 条引用:59.8% 指向访问量排名 10 万名之外的域名,23.4% 连前 100 万名都进不去。被高引的长尾里包括 wifitalents.com、worldmetrics.org 和 gitnux.org 三个品牌——它们在 2023 年 12 月到 2024 年 5 月之间注册,共用同一对 Cloudflare 域名服务器,每站只发过 6 篇博客,却合计铺出了 215,128 个机器生成的“最佳软件”页面。供应商博客 guideflow.com 被引 194 次,总排名第三、排在 Gartner 前面,而维基百科只被引了 3 次。对做检索或搜索优化的人来说,这组数字不太好受:AI 搜索可以被工业规模地喂养,而打分的是模型,不是编辑。

来源: Trellner Research

惠灵顿市长称德勤 43.5 万美元报告“很大部分”是 AI 写的

德勤一份关于市议会人员编制的 43.5 万美元报告中,很大一部分是由人工智能撰写的

数据使用错误意味着,用来构建把组织裁减 330 个全职岗位这一建议的假设,本身就是站不住脚的

惠灵顿市长 Andrew Little 在 Newstalk ZB 的访谈中说,德勤的 Future Fit Pōneke 报告“很大部分”是“AI 写的”。这份去年 11 月发布的报告声称市议会多余 330 人,但市议会随后提交的文件发现:德勤把在职员工和空缺岗位重复计算、依赖三年前的旧数据、把人员支出高估了 2150 万美元,站得住的裁减数字是 284 人。德勤此前一直为报告辩护,目前被追问置评。这件事与 Trellner 揭示的 AI 搜索被批量喂养出现在同一个新闻周期里,两边的模式一模一样:机器生成的内容在没有与风险相称的验证环节的情况下,直接进了决策链。

来源: RNZ


本报告由 WindFlash AI 自动生成,内容基于过去 48 小时内的公开 AI 资讯。

广告

Share this article

广告