灵砚周刊·前沿科技 2026-W32

SPEED READ

本周速览

现有对齐技术被指割裂，安全边界需从训练端重画。

THREADS

周线索

1. 宪法AI被指失效引发对齐路线质疑

本周，Hugging Face的Thomas Wolf与Gary Marcus接连发声，指出Constitutional AI与RLVR等现有对齐技术并未真正解决安全问题。Wolf强调，在智能体协作场景中，若宪法训练与RLVR处于割裂的数据流形上，将导致安全边界失守；Marcus更是直言纯扩展路线已走到尽头。AISI和Hugging Face的安全事件让业界意识到，单靠模型规模扩展无法实现真正的对齐，需要探索神经符号AI等新路径。

2026-08-05：Gary Marcus指出乐观主义未能解决对齐问题，宪法AI未起效；Thomas Wolf提及AISI安全事件带来的警示。（Gary Marcus(@GaryMarcus) / Thomas Wolf(@Thom_Wolf)）
2026-08-06：Thomas Wolf探讨智能体协作中的训练流形割裂问题；Gary Marcus表示纯扩展失败，呼吁新方法。（Thomas Wolf(@Thom_Wolf) / Gary Marcus(@GaryMarcus)）

阅读 1 阅读 2 阅读 3 阅读 4 阅读 5 阅读 6 阅读 7 阅读 8

BRIEFS

本周其余要闻

Astra数学证明遭质疑出错，AI推理突破撞上验证墙阅读 1 阅读 2 阅读 3
Socher Marcus指LLM无法遵守硬约束，质疑宪法AI有效性阅读 1 阅读 2 阅读 3
Meta自办技校背后：B200零库存，算力荒蔓延全链路阅读 1 阅读 2
Marcus持续质疑Astra：头部企业悄然转向神经符号系统阅读 1 阅读 2 阅读 3
华为诺亚开源MindMemOS，Agent记忆从即弃走向可迁移阅读 1
Qwen3.8-Max开权重且降20%，进一步挤压闭源定价空间阅读 1 阅读 2 阅读 3
Token价跌回年初水平，AI商业化利润预期被击穿阅读 1 阅读 2
Pika百模聚合上线，AI调用层从单选走向智能路由阅读 1 阅读 2 阅读 3
英伟达安全联盟扩至120家，AI防护从各自为战转联防阅读 1 阅读 2 阅读 3
亿级App砍75%GPU，推理成本倒挂催生跨云架构阅读 1
微软设Token预算上限，AI用量管理从鼓励转向管控阅读 1
DeepSeek降价后登顶Ollama下载榜，收割本地推理市场阅读 1 阅读 2
DeepSeek涨价反转：成本可复现，涨价实为流量控制阀阅读 1 阅读 2 阅读 3
DeepSeek V4 Flash成Ollama默认引擎，部署门槛反升阅读 1 阅读 2 阅读 3
GPT-5.6 Luna进入免费层，OpenAI用前代旗舰压缩定价空间阅读 1

RECALL

观察回收

下一个开源编码模型能否在FrontierCode上超越闭源？ → 未决：本周无开源编码模型及FrontierCode相关证据，线索集中于对齐路线争议。
MiniMax H3能否在复杂场景保持端到端质量？ → 未决：本周无MiniMax H3相关证据，无法判定复杂场景表现。
价格战是否触发闭源模型新一轮降价？ → 未决：本周无闭源模型定价或价格战相关证据。
DeepSeek V4 Flash能否在实际Agent场景中维持benchmark优势？ → 未决：本周无DeepSeek V4 Flash及Agent场景相关证据。
开放权重平台采用率是否持续上升？ → 未决：本周无开放权重平台采用率相关数据或证据。
Open Secure AI Alliance是否吸引更多头部厂商加入？ → 未决：本周线索聚焦宪法AI失效与对齐路线，未涉及联盟成员变动。

NEXT WEEK

下周观察

现有对齐路线是否会被彻底放弃？（加强：顶级AI实验室公开承认对齐技术存在根本缺陷并转向新架构。；削弱：下一代大模型通过增加规则和RLVR训练显著提升了安全基准测试分数。）