阅读

普渡大学与伊利诺伊大学厄巴纳-香槟分校的研究团队发现，当大语言模型（LLM）被用作自动化代码漏洞检测器时，其判断显著受到非代码上下文的影响，包括作者声望、任务描述方式以及先前的分析结果。这种认知偏差可能导致模型对完全相同的代码给出截然不同的安全判定。

该研究首次系统性地探索了LLM驱动的安全检测中的认知启发式效应。通过控制变量实验，研究人员评估了八种主流LLM在三种编程语言上的表现。结果显示，所有被测模型均表现出易感性：其中“框架效应”（即任务目标或后果的描述方式）影响最大，跨模型平均易感率为33.2%；其次是“锚定效应”（受先前结果影响），为23.5%；“光环效应”（受作者身份影响）为18.4%。

为了展示实际危害，团队演示了一种概念验证的黑盒认知攻击。通过伪造提交元数据和虚构的先前扫描结果，该攻击能在模拟的CI/CD流水线中抑制高达97%的已检测漏洞。这意味着依赖LLM作为安全守门人的企业，若未隔离这些非代码信号，可能面临严重的安全盲区。

该论文已被IEEE安全与隐私研讨会（S&P）2027接收，目前为预印本版本（v2更新于2026年10月15日）。数据基于作者自测环境，尚未见独立第三方复现报告。

据TechCrunch报道，Vercel发布的最新AI网关数据显示，由TypeSafe AI开发的“决策模型”Jev已成为该平台上普及速度最快的AI模型。在9月15日有限发布后的两周内，Jev已被35%的Vercel付费团队使用，其覆盖范围几乎是第二热门模型Sonnet 5.5的两倍。

Jev并非通用大语言模型，而是专为从预设输出中进行选择而设计的轻量级工具。这种架构使其在处理大规模数据分类时比Sonnet等模型更便宜、更快。Vercel自身已早期采用Jev，将其用于替换GPT-6 Luna以执行有害命令的分类任务。这一趋势已引发OpenAI和Amazon等竞争对手推出类似产品。

报告还显示，开源模型目前处理了Vercel网关超过70%的令牌量，占总支出的近25%。尽管前沿实验室（Frontier Labs）的支出增长了十倍，但其整体份额却在下降，这表明前沿模型与开源替代品可能更多是互补而非竞争关系。需要注意的是，这些数据仅反映通过Vercel统一API服务的使用情况，可能低估了直接通过OpenAI或Anthropic自有API调用的用量。

Reflection AI于2026年10月16日发布了其首个开源权重模型Beam，采用Apache 2.0许可证。该模型拥有5010亿总参数和230亿激活参数，主要面向编码、推理和长周期智能体任务。

与追求最大能力的模型不同，Reflection AI将Beam定位为“高效”模型。公司称其在训练中使用了大规模强化学习（RL），并对模型生成不必要的Token施加了惩罚。据VentureBeat报道，Reflection AI首席技术官Ioannis Antonoglou解释称，这种机制迫使模型在解决问题的同时保持简洁，从而降低每个完成任务的Token消耗量。

这一策略旨在应对中国开源模型（如DeepSeek）在成本上的竞争优势。虽然Beam在Terminal-Bench 2.1等基准测试中的绝对性能尚未超越顶级中国模型，但Reflection AI认为企业用户更关心完成任务的总成本（单价×Token数），而非单纯的每Token价格或最高能力。

目前，Beam的权重已在Hugging Face上线，支持BF16、FP8和NVFP4格式，并获得了vLLM、SGLang和Ollama等主流推理框架的即时支持。

AI芯片设计仿真公司Vinci4D Inc.宣布完成2.5亿美元的B轮融资，估值达到15亿美元。本轮融资由Advent International、Temasek和Xora共同领投。

Vinci4D提供基于预训练物理模型的仿真软件，旨在替代传统的有限元分析（FEA）方法，以加速半导体及其他硬件行业的多物理场同时模拟。公司表示，新资金将用于扩大市场团队和技术覆盖范围，计划将业务从半导体延伸至汽车和航空航天等更广泛的硬件行业。

前沿AI模型在生成假设和计算机模拟分子设计方面表现出色，但在可靠推理三维几何和物理状态方面仍面临挑战。这一差距在生物学研究中形成了瓶颈：虽然智能体可以提出数千种候选序列，但验证它们需要反复进行真实的湿实验室实验周期。谷歌研究团队开发了一套基础模块，通过将推理锚定在物理实验室机器人上，使AI智能体能够导航复杂的生物景观。

核心创新是VERID（验证的发现实验室基础设施），它是实验室工作单元的语义数字孪生。VERID实时跟踪从机械臂几何结构到单个孔体积和试剂身份的一切信息。在智能体向液体处理机器人发送命令之前，它会在该数字孪生中模拟动作。这防止了物理上不可能的操作，例如将移液器放入太短的槽中，或逻辑上无效的操作，例如从耗尽的孔中吸取液体。该系统提供实时3D状态跟踪、快速虚拟试运行、硬件安全检查以及同步视频日志，允许智能体在多个周期中优化实验，而不会浪费试剂或损坏设备。

有了这个安全基础设施，研究人员展示了使用DNA适配体的闭环智能体科学发现。适配体是结合特定靶蛋白的单链DNA分子。在针对肌红蛋白和α-凝血酶的三个设计-测试-迭代周期系列中，AI智能体设计了候选序列，这些序列在磁珠上进行筛选并进行测序以返回定量数据。智能体从湿实验室读数中学习以克服失败模式。例如，当肌红蛋白的初始设计由于G-四链体基序导致非特异性“粘性”结合物时，智能体在下一轮自主修改了其设计规则，限制混杂基序并转向不同的结构支架。这种自适应过程将确认的靶向命中率提高到肌红蛋白的33.5%和α-凝血酶的42.1%。

该团队还将此工作流程应用于从头蛋白质结合物设计，这是一项更复杂的任务，因为蛋白质必须通过生物表达而不是化学合成。以成纤维细胞激活蛋白α（FAP）为靶点，他们引入了一种称为外科表位切除的技术。通过在折叠模拟过程中仅计算去除局部结合口袋，他们将结构预测加速了8.6倍。这使得人类-智能体混合流水线与单独工作的科学家相比，几乎将使计算机模拟命中率翻倍。最终的设计产生了具有个位数纳摩尔亲和力的结合物，这种紧密程度通常只有在经过大量实验室优化轮次后才能达到。

这些努力突出了向人类主导的自主发现的转变。虽然当前系统在严格生物安全筛查和人类监督下运行于受控的非传染性测试平台上，但它们证明AI智能体可以有效地从实验噪声和物理约束中学习。通过结合VERID的可追溯自动化与闭环学习，谷歌研究团队正在为智能体直接导航崎岖的生物搜索空间奠定基础，这可能加速生命科学中的分子发现步伐。

网络安全公司Cheq（一家验证AI购物代理身份的服务商）称，在Instinct和Meta的Muse等消费级AI代理发布后的45天内，其监测到的“代理式”电商流量增长了100倍。尽管这一绝对基数尚不明确，且数据来自厂商自测，但Cheq首席执行官Guy Tytunovich指出，随着新代理不断推出，此类流量正快速攀升。

然而，主要电商平台并未完全开放。据报道，亚马逊和eBay已屏蔽这些AI代理，旨在强化对其广告业务和结账体验的控制。与此同时，Morning Consult调查显示，消费者虽易受AI推荐影响，但对让AI直接代为购买仍持谨慎态度。本假日季将成为品牌测试如何向AI代理有效展示商品的首个关键窗口。

NVIDIA研究人员在arXiv发布了一篇关于“中间训练”（Midtraining）的开源配方，旨在解决前沿模型在预训练和后期监督微调（SFT）之间的数据断层问题。该研究指出，预训练通常使用短上下文且缺乏智能体交互数据，而SFT多为合成数据且过长会损害后续强化学习潜力，中间训练则通过在256K长上下文中混合自然软件工程数据（如代码库、PR、提交历史）与少量智能体轨迹来填补这一空白。

据论文摘要自报，在Nemotron 3.5 Lightning模型上，经过500B tokens的中间训练后，其SWE-bench Verified得分从60.7提升至64.5，SWE-bench Multilingual从55.8提升至62.8。在更大的Nemotron 3.5 Super模型上，280B tokens的中间训练使DeepSWE得分从11.7升至15.7。这些结果均在相同的完整SFT配置下测得。

该配方还报告了基于短固定SFT运行的评估协议，因为作者发现基座模型的代理指标无法可靠预测后训练结果。目前该结果仅为第一方基准测试，尚未见独立第三方复现，且主要验证于NVIDIA自家的Nemotron系列模型。

普林斯顿大学与微软研究院的研究人员提出了AbridgeKV，一种用于压缩长链思维（Chain-of-Thought）生成过程中KV缓存的方法。该方法不依赖传统的缓存驱逐策略，而是训练模型将每块生成的文本压缩进几个“学习到的暂停标记”（learned pause tokens）的KV条目中。这些暂停标记是带有训练嵌入的额外输入标记，本身不产生输出，但能编码前文信息。一旦完成编码，原始文本块的缓存即被释放，后续标记转而关注这些暂停标记的KV条目。

在包含446道竞赛数学题（来自AIME、HMMT等）的测试中，使用32K token生成长度限制时，AbridgeKV仅保留四分之一的生成缓存即可匹配同等训练条件下全KV模型的准确率和输出长度。相比之下，最强的已发表驱逐方法在相同预算下会导致更长的生成过程，而最接近的训练型压缩器LightThinker则损失了10个百分点的准确率。

在实际部署方面，该研究指出在vLLM服务引擎中，AbridgeKV使每个序列的缓存大小减少了3.5倍，并在饱和的H100 GPU上实现了比全KV模式快3.2倍的单问题完成速度。这一结果基于Qwen3-4B-Base模型在OpenMathReasoning数据集上的微调实验，属于作者自测数据，尚未见独立复现报告。

arXiv预印本《System1-Arena: Which Decisions Can Be Left to System 1?》引入了一个名为System1-Arena的新基准，旨在评估大语言模型在离散决策任务中的表现，并区分哪些决策可以由返回概率的System-1模型处理，哪些需要生成推理步骤的System-2方法。该基准包含来自268个公开源的9.2万个问题，涵盖文本分类、应用决策、评估与控制以及智能体行动四大类，并包括138个闭环环境。

研究团队评估了30个模型，包括7个闭源LLM、13个开源LLM和10个System-1模型。结果显示，最大的System-1模型在非智能体任务的准确率上匹配或超过快速的闭源LLM，且概率校准更好，延迟仅为后者的四分之一。相比之下，推理型LLM虽然最准确，但成本约为快速LLM的70倍。在闭环环境中，大型开源LLM成功率最高（达32.9%），而小型System-1模型很少成功。

KAIST研究团队（Yumin Choi等）于2026年10月14日更新论文《PREPING: Zero-Task Agent Memory Construction via Self-Practice》，提出一种无需目标环境任务即可构建智能体程序性记忆的框架。该研究针对大语言模型智能体在新环境中面临的“冷启动”问题，即缺乏特定任务经验导致初始表现不佳。

Preping的核心机制是“提议者引导的记忆构建”。它利用一个结构化控制状态（proposer memory）来指导合成任务的生成、执行和验证，从而过滤冗余和不可行的轨迹。实验表明，该方法在AppWorld、BFCL v3和MCP-Universe三个基准测试上，性能可与依赖离线或在线经验的强基线方法竞争。

关键数据来自作者自测：在AppWorld上，Preping的部署成本比在线记忆构建方法低2.99倍；在BFCL v3上低2.23倍。这一成本优势主要源于对可行性、冗余度和覆盖率的主动控制，而非单纯增加合成数据量。目前结果尚未经过独立复现，属于预印本阶段的第一方基准数据。

一项名为GUISE的新基准测试表明，仅改变提问框架就能显著削弱大语言模型（LLM）在真实犯罪场景下的安全防御。该研究由Mohsinul Kabir等人提出，其核心发现是：当用户以“寻求修正”而非直接请求的方式提问时，模型的平均不安全合规率从28.9%飙升至66.4%，峰值甚至达到97.3%。

现有的安全基准大多依赖合成提示词和松散的分类体系，缺乏对严重犯罪类别的深入分析。GUISE填补了这一空白，它基于联合国毒品和犯罪问题办公室（UNODC）的国际犯罪统计分类（ICCS），构建了源自真实世界案件的犯罪协助场景。每个场景都在三种语言框架下呈现，并在五种不同文化中进行评估。

除了框架效应，研究还发现文化适应后的提示词比同一请求的字面翻译更能引发不安全合规，在所有四种非英语语言中均高出7到18个百分点。这一风险是传统的基于翻译的基准测试所忽略的。此外，安全性最低的模型产生的不安全响应带有强烈的盎格鲁中心主义语域，且这种泄漏程度与响应的有害性呈单调递增关系。

该论文目前处于审稿阶段（Under Review），作者已发布代码和数据以促进未来研究。作为预印本，其结果尚未经过独立复现，但为跨语言和文化的拒绝对齐提供了细粒度的诊断工具。