来自 Twitter · Hacker News · GitHub 的 AI 行业动态
扩散Transformer是高质量视频生成的关键,但长序列使注意力计算成为推理瓶颈。无训练动态稀疏注意力通过仅计算选定key-value块来缓解瓶颈,但现有方法难以高效且准确地稀疏化注意力:固定分数选择导致预算僵化,而概率质量保留虽动态但可能不均衡。
生成模型推动了蛋白binder设计的发展,但现有方法主要基于单靶点、单状态假设,难以建模多靶点或多状态相互作用。Chamaileon将问题形式化为跨上下文binder设计,统一了多靶点与多状态binder设计任务。
多轮长时域规划对基础模型智能体至关重要,但现有模型训练数据不可控、不透明,难以理解规划能力如何获得和整合。研究提出了统一可控的多轮环境,系统研究长时域规划在预训练等阶段的获取机制,通过单/多教师同策略蒸馏提升规划能力。
On-policy蒸馏通过沿student生成的轨迹查询teacher来适配扩散模型,但对无分类器引导(CFG)的处理仍不清楚。现有方法将速度匹配扩展到CFG组合预测,但这种目标在分支层面是欠定的——正负分支误差会相互补偿。
智能体搜索仅靠结果强化学习监督信号稀疏,从专有模型蒸馏知识时,传统 logit 匹配因隐藏 logits 和 tokenizer 不匹配而不可行,自然语言轨迹模仿效果有限。
现有音视频联合生成方法分别训练 VAE,导致潜在空间缺乏跨模态对齐,使下游生成模型需从头学习跨模态同步。OmniVAE 提出一种联合训练的音视频 VAE,实现跨模态对齐。
综述机器人学习中过程奖励的研究进展,涵盖不同观察、目标规范、输出信号和监督来源的方法差异与统一框架需求。
创意AI正从单步资产生成向长时程多模态创作演进。尽管近期生成模型能合成高质量图像、视频、音频、UI元素等创意资产,但实际创意工作远不止孤立的提示词-输出交互。它涉及参考资料、草稿、备选方案、编辑、失败尝试、版本关系、工具操作、评估信号和人类反馈,这些共同形成不断演进的项目状态。现有基于提示词、聊天和节点的生成系统仅能部分...
将具身智能数据组织为金字塔结构,整合真实机器人数据、UMI风格数据、模拟数据和通用视觉语言数据,平衡可扩展性与机器人对齐。
Dario Amodei 发文正式阐明 Anthropic 对开放权重模型的立场:明确否认曾主张禁开源,称不具危险能力的开源模型是公共产品;但认为保护主义禁令解决不了国安担忧,主张三项措施——对华管制强芯片并打击走私、打击工业级蒸馏、对所有足够强大的模型(无论开源闭源)强制发布前安全测试。此前 Anthropic 与 OpenAI 均未签署 50 家公司联署的开放权重公开信。
工业视频异常检测用于识别工业流程中的异常事件,现有视觉语言模型方法在面对复杂物体变换、严格物理约束和工艺流程限制时性能下降。研究团队提出一种免训练的智能框架,以应对工业场景中的交互密集型检测任务。
月之暗面发布旗舰 Kimi K3 并开放权重:2.8 万亿参数 MoE(896 专家、每 token 激活 16 个、约 50B 激活参数)、原生多模态、100 万 token 上下文,为迄今参数最大的开源权重模型(MXFP4 四比特约 1.4TB)。同步开源配套栈:MoonEP(分布式 MoE 高性能通信库)、AgentENV(大规模智能体环境,服务 agentic RL)、FlashKDA(基于 CUTLASS 的 Kimi Delta Attention 内核,H20 prefill 最高约 2.22x)。
NVIDIA与Linux基金会牵头成立Open Secure AI Alliance,27+创始成员含微软、IBM、红帽、Hugging Face、CrowdStrike、Cloudflare、SpaceX、戴尔、Salesforce等40余家机构,开放共享用于保护AI智能体、软件及基础设施的安全技术;此举正值Hugging Face遭黑客攻击之后(Meta未在名单中)。
扩散模型在迭代采样中通常受误差累积影响,即曝光偏差。研究揭示了训练与推理间存在系统性的频率相关差异,可理解为频率相关信噪比误差。该失配方向随模型和时间步不同而变化,表明固定校正规则无法泛化。团队提出频谱对齐(SPA),一种轻量级、基于引导的方法,将中间预测的功率谱校准至预计算的先验分布。该方法包含两个阶段。
大语言模型作为智能体时,仅靠next-token预测难以实现可靠决策。该研究提出多头潜在控制机制,使模型能在推理时自主决定继续推理、调用更强模型、请求信息或调用工具。现有方法依赖输入侧路由,成本高且难维护。
代理强化学习涉及持续的算法修改、新估算器、新管道阶段和rollout方案,在主流框架中每次改动都需贯穿trainer、分布式后端和rollout胶水层,成本由研究者承担。Molt是PyTorch原生训练框架,代码库紧凑清晰,研究者可全局掌握,AI助手可完整读取推理,实现端到端算法流程追踪和修改。
任意运行,随处可用
Sakana AI 推出多智能体编排模型 Fugu 的 Claude Code 接口,可在 Claude Code 工作流中调度 Claude/Gemini/GPT 等前沿模型协同写码调试执行;同期 Fugu-Ultra v1.1 在 ProgramBench、Terminal Bench 2.1 上进一步提升,终端任务超过 Claude Fable 5 与 GPT-5.5。
vLLM v0.26.0 发布,含 411 次提交(212 位贡献者):新增 Inkling 模型族全栈支持、DeepSeek-V4 专用路由内核与 fused topK(1.5–2x 提速)、分层 KV 卸载与对象存储分级、Rust 前端扩展(多模态音视频/工具解析)及 Transformers 5.13.0 集成。
NAVER、Brookfield与NVIDIA宣布100亿美元合作(Brookfield出资至多90亿、NVIDIA投资10亿、NAVER补足余额),将位于世宗GAK数据中心的NVIDIA DSX AI工厂从55兆瓦扩至200兆瓦,2028年完工,为韩美AI开发者提供产能级算力。
SK集团与NVIDIA签署意向书,宣布超5000亿美元AI基础设施合作:SK电讯将在韩国建设2吉瓦Vera Rubin DSX AI工厂(首座2027年上线),SK海力士与NVIDIA长期共研下一代AI存储(含HBM)。
具身视觉追踪(EVT)要求移动智能体仅通过机载视觉持续跟随自然语言描述的目标。ReferTrack 提出一种指代-追踪范式,使用单个前向摄像头实现具身追踪,先从图像中选取目标。
深度研究需要智能体找到满足多个约束条件的答案,但发现答案成本高昂而验证成本较低。AREX 是一种递归自我改进(RSI)智能体,通过验证中间结果并利用部分验证状态引导后续优化。
5B/14B规模的混合视频扩散Transformer,在单GPU上生成720p高质量视频,通过混合线性-Softmax注意力以3:1比例平衡线性复杂度和全秩token交互。
现有K-12教育基准主要测试答题能力,忽视课程知识结构理解。K12-KGraph从人教版教材中提取覆盖中小学数理化生课程的课程对齐知识图谱。
Anthropic 7月24日发布新旗舰 Claude Opus 5:100万 token 上下文、支持 xhigh 推理档,并新增 low/medium/high 努力档位让用户在成本与能力间权衡;成为 Claude Max 默认、Pro 最强模型,价格与前代 Opus 4.8 持平。官方称在 Frontier-Bench、GDPval-AA 等编码/知识评测上刷新 SOTA。Cursor 等工具当日即接入。
Anthropic 7月23日升级Claude语音模式:首次支持Opus与Sonnet(此前仅Haiku),可对话中切换模型、接入connectors工具,语调更自然、延迟更低、语言更多。以beta在桌面/移动/网页全端推送,付费用户默认沿用上次文本对话所用模型。
OpenAI 7月23日把最先进语音带上ChatGPT桌面端(Mac/Windows):由GPT-Live驱动、全双工可边听边说,用户能在Chat/Work/Codex里用语音发起、检查、指挥跨线程任务,Appshots还能让其读取当前聚焦窗口做上下文。面向Plus/Pro/Business/Edu/Enterprise全球推送。
OpenAI 7月23日面向全美18岁以上用户(Web与iOS,覆盖Free/Go/Plus/Pro)推出「Health in ChatGPT」:可安全接入Apple Health与美国医疗门户的电子病历,让ChatGPT基于个人化验、睡眠与活动数据给出健康洞察、对比历次检查。此为1月小范围试点后的正式重启扩量。
人类视觉是闭环过程,当前视觉-语言基准无法评估MLLM是否具备主动观察能力。提出ActiveVision基准,包含17项任务分3类,强制模型进行重复视觉感知,以测量MLLM的主动观察能力。