# 推理模型

为什么你的本地大模型感觉比实际更笨

本文通过一系列技术实验，揭示本地部署大模型时，因硬件、软件和推理后端差异导致的输出偏差，解释了为何本地模型感觉不如官方基准聪明，并提供了衡量和改善的方法。

Hacker News (AI)20 天前

LLM 推理模型研究行业观点

模拟正在接管AI：从奖励信号到物理世界的八阶段演进

本文梳理了自2022年以来，AI流水线中人类组件逐步被模型替代的八个阶段，从奖励信号、训练数据到教师、课程、研究者、环境乃至人类被试，最终指向物理世界。这一趋势意味着模拟正以更低成本、更快速度成为AI发展的核心驱动力。

Latent Space (Swyx)21 天前

研究行业观点智能体推理模型

Simon Willison's Weblog22 天前

智能体工具链的演进：从提示工程到模型内化

本文探讨AI智能体在2025年底突然变得可用的原因，提出模型能力与外部工具链（harness）两条曲线的交汇是关键，并预测未来工具链将转向服务人类注意力。

Latent Space (Swyx)21 天前

智能体推理模型产品发布研究

精选

llm-openrouter 0.7 发布，支持推理模型与新工具

llm-openrouter 插件更新至 0.7，兼容 LLM 0.32，并新增服务器端工具，提升推理模型的使用体验。

产品发布推理模型开源

参数之死：Z.ai CEO唐杰谈GLM 5.3与新的后训练扩展定律

Z.ai CEO唐杰指出，模型能力不再由参数数量决定，而是由数据、算力分配和运行环境共同决定。GLM 5.3通过长时程强化学习实现性能飞跃，标志着后训练扩展的新范式。

Latent Space (Swyx)23 天前

LLM 推理模型智能体研究

MIT Technology Review — AI25 天前

AI自我改进的承诺可能不会很快实现

普林斯顿大学领导的研究发现，AI智能体虽能完成工程任务，但缺乏开放式研究所需的创造力和判断力，其论文被顶级会议拒绝，表明AI自我改进的炒作可能超前于现实。

研究智能体推理模型

OpenRouter 显示 GPT-5.6 Sol 价格下调 50%

OpenRouter 页面显示 OpenAI 旗舰模型 GPT-5.6 Sol 价格下调 50%，并披露其性能基准、托管提供商及热门使用场景，反映前沿模型在推理与编码任务中的实际表现。

Hacker News (AI)25 天前

LLM 产品发布推理模型

Simon Willison's Weblog26 天前

Qwen 3.8 27B 表现出色，但默认推理设置导致过度思考

阿里发布的 Qwen 3.8 27B 开源视觉模型在本地硬件上表现优异，但其默认的 xhigh 推理等级会导致模型过度思考，影响效率和用户体验。

LLM 开源产品发布推理模型

LittleLearner：控制知识暴露下的大语言模型能力边界研究

LittleLearner项目通过构建仅含美国小学课程（K-5）的预训练语料，训练了三个规模的语言模型，并系统验证了扩展、后训练和上下文学习均无法突破预训练数据设定的能力上限，为理解模型知识获取机制提供了可控实验平台。

Hacker News (AI)27 天前

AI并非更会思考，而是拥有更大的工作记忆

本文提出，AI在数学上的优势可能并非源于更强的推理能力，而是其几乎无限的上下文窗口相当于巨大的外部工作记忆，突破了人类工作记忆的瓶颈。

Hacker News (AI)27 天前

DeepSeek发布V4-Pro并推出峰谷定价

DeepSeek今日发布V4-Pro模型，带来智能体升级和灵活推理配置，同时更新API定价，引入峰谷费率以优化成本。

Hacker News (AI)28 天前

产品发布智能体推理模型芯片与算力

Kog深挖GPU潜力，以软件优化实现更快推理

法国初创公司Kog致力于通过软件优化在现有数据中心GPU上实现极速推理，其技术预览展示了每秒3000 token的解码速度，并计划在9月前将大型模型推理速度提升10倍，以吸引企业客户并推动融资。

TechCrunch — AI29 天前

推理模型芯片与算力产品发布投融资

Cursor 并入 SpaceXAI，开源模型与智能体运行时成焦点

本期 AI 资讯涵盖 Cursor 被 SpaceXAI 收购、GLM-5.3 等开放权重模型发布、智能体运行时架构讨论及多项基准测试进展，反映行业对模型能力与工程优化的双重关注。

Latent Space (Swyx)29 天前

产品发布开源智能体推理模型

Cerebras与OpenAI推出Ultrafast模式，GPT-5.6 Sol推理速度提升11倍

Cerebras与OpenAI合作推出Ultrafast模式，基于Cerebras晶圆级芯片，使GPT-5.6 Sol的推理速度达到每秒750个token，比同类模型快数倍，且不牺牲质量，为时间敏感型任务提供前沿智能。

Hacker News (AI)29 天前

产品发布芯片与算力推理模型 LLM

Grok 4.6发布，AI队友赛道迎来最强新玩家

xAI发布Grok 4.6，以高性价比和强大智能体能力成为知识工作领域的有力竞争者，同时Qwen3.8-Max、DeepSeek V4 Pro等开源模型密集发布，AI战场转向智能体与效率。

LLM 智能体产品发布开源

DeepSeek V4 Pro 0813 上线 OpenRouter，仅限 API 访问

DeepSeek 最新 Pro 模型 V4 Pro 0813 已通过 API 上线，但官方未发布公告，开放权重情况尚不明确。该模型在推理水平上表现出显著差异，基准测试结果经微信群、Reddit 等渠道流传。

产品发布开源推理模型

llama.cpp：本地运行前沿AI的开源工具

llama.cpp 让前沿 AI 模型完全在本地运行，无需 API 密钥，保护隐私，并支持多种硬件，是开源 AI 部署的重要工具。

开源产品发布推理模型多模态

如何窃取推理痕迹：前沿模型加密思维链被破解

一篇论文展示了如何解码并移植前沿模型加密的推理痕迹，引发隐私与安全担忧，同时英伟达发布Nemotron 3.5 Lightning等新模型，推动开放模型趋势。

研究推理模型产品发布开源

新方法揭示AI模型隐藏推理，蒸馏争议再起

研究人员发现一种技术，可从前沿AI模型中提取隐藏的推理过程，并可能用于蒸馏攻击，引发关于模型安全与中美AI竞争的讨论。

Wired — AI大约 1 个月前

研究推理模型政策与监管开源

Claude在黎曼猜想上取得意外突破：将零点下限提升至67.2%

Anthropic的研究版Claude在尝试攻克黎曼猜想时，意外改进了黎曼zeta函数零点满足假设的下限，从41.6%提升至67.2%，展示了AI在数学研究中的潜力。

研究推理模型产品发布

探秘Claude/GPT知识截止与预训练时间线

本文通过精心设计的探测问题，分析前沿模型的知识截止日期、自我报告日期和身份认同，揭示其预训练时间线、数据集构成及训练过程，为理解模型内部机制提供新视角。

DeepSeek V4 Flash 0731 在 ARC-AGI 基准测试中取得高分

DeepSeek 发布 V4 Flash 0731 模型，在 ARC-AGI-1 和 ARC-AGI-2 半私有基准测试中分别取得 89.0% 和 61.4% 的分数，且单任务成本极低，展示了高效推理能力。

LLM 推理模型

vLLM内部解析：高吞吐量LLM推理系统剖析

本文深入解析vLLM这一高吞吐量LLM推理系统的核心组件与高级特性，从分页注意力、连续批处理到多GPU扩展，为理解现代推理引擎提供清晰框架。

LLM 推理模型芯片与算力研究

AMD收购Taalas，Meta Muse Spark 1.2跃居前沿，OpenAI统一模型并推插件标准

本期AI新闻涵盖AMD收购Taalas、Meta的Muse Spark 1.2在基准测试中突破、OpenAI统一ChatGPT模型并推出Agent Plugins标准，以及智能体编排和推理路由成为竞争焦点。

产品发布推理模型智能体芯片与算力

ChatGPT免费用户获无限文本聊天，新模型Luna上线

OpenAI宣布取消ChatGPT免费用户的文本聊天限制，并推出新模型GPT-5.6 Luna，同时为付费用户提供升级版Sol模型，提升推理能力并减少事实错误。

TechCrunch — AI大约 1 个月前

产品发布 LLM 推理模型

Meta发布Muse Code与Muse Spark 1.2，强化长序列智能体工具调用

Meta推出编码智能体Muse Code及升级版Muse Spark 1.2，后者在代码生成、调试等任务上显著提升，并强调长序列智能体工具调用能力，反映当前模型发展的关键趋势。

产品发布智能体推理模型开源

精选

MacPaw携手Liquid AI为开发者提供设备端推理服务

乌克兰应用开发商MacPaw与Liquid AI合作，将本地AI模型引入其产品，并计划向开发者开放设备端推理技术，同时为其订阅应用商店SetApp推出AI应用和积分制。

TechCrunch — AI大约 1 个月前

产品发布推理模型智能体

Megakernels已死又重生：Cursor开源MoK引发推理工程之争

本期AI新闻聚焦推理工程领域关于Megakernels的激烈辩论，并报道Cursor开源其NVL72 MoE训练Megakernel，以及Qwen、NVIDIA、Mistral等多家公司发布新模型，展示推理效率与模型发布的快速演进。

推理模型开源产品发布研究

LLM 0.32 发布：新增推理轨迹、OpenAI Responses、服务器端工具与智能日志

LLM 0.32 是该项目自发布以来最重要的更新，新增推理轨迹显示、服务器端工具支持、内容可寻址日志，并默认使用 GPT-5.6 Luna 模型，标志着 LLM 正演变为一个智能体框架。

产品发布智能体推理模型开源

Qwen 3.8 Max与27B开放权重模型发布，主打编码与智能体协作

阿里巴巴发布Qwen 3.8 Max（2.4T参数）及Qwen 3.8-27B，承诺下周开放权重，在编码、长期智能体任务和多模态推理上表现强劲，与西方顶级闭源模型直接竞争。

LLM 多模态智能体推理模型

推理工程大师课：Baseten如何让开放模型快10倍

Baseten联合创始人详解推理工程：从KV缓存路由到量化误差抵消，揭示推理优化如何成为AI基础设施新战场，并带来20%至200%的性能提升。

推理模型芯片与算力产品发布行业观点

DeepSeek-V4-Flash-0731发布，性价比领先

DeepSeek发布V4系列最新模型V4-Flash-0731，参数3040亿，智能体能力增强，性价比突出，在基准测试中超越更大模型。

产品发布智能体推理模型芯片与算力

AI推理是否因错误原因而正确？

大型推理模型（LRM）在数学竞赛中夺金，但其思维链可能只是表面捷径，未必反映真实推理过程。本文探讨AI推理的有效性与解释性之间的张力。

推理模型研究行业观点

DeepSeek API 更新日志：V4-Flash 公测及历代模型升级

DeepSeek 发布 V4-Flash 公测，性能大幅提升，并宣布 legacy 模型名称即将停用，同时回顾了从 V2.5 到 V4 的系列升级。

产品发布推理模型智能体

GPT-5.6降价20%-80%，旗舰智能成本四个月降13倍

OpenAI通过系统级优化大幅降低推理成本，并发布开放权重模型Inkling-Small和Gemini Robotics 2，推动AI成本与能力边界。

LLM 推理模型智能体产品发布

蒸馏DeepSeek不转移审查行为：金融推理模型实证研究

一项实证研究显示，从中国审查模型蒸馏出的美国模型在金融推理上表现优异，但未继承政治审查行为，为模型蒸馏实践提供了重要参考。

研究 LLM 开源推理模型

两项API设置使GPT-5.6在ARC-AGI-3基准测试中得分翻三倍

OpenAI发现，通过保留推理链和启用压缩两项API设置，GPT-5.6在ARC-AGI-3基准测试上的得分和效率大幅提升，揭示了推理模型的关键优化方向。

OpenAI News大约 1 个月前

LLM 推理模型研究

GPT-5.6融合前沿智能与效率

OpenAI发布GPT-5.6，在模型、推理和智能体工作流中提升AI效率，实现每美元更多有用智能。

OpenAI News大约 2 个月前

LLM 推理模型产品发布

Simon Willison's Weblog大约 2 个月前

Anthropic用Claude Mythos发现加密算法数学缺陷

Anthropic研究人员使用Claude Mythos模型，通过60小时连续推理和巧妙提示，发现了HAWK和简化版AES中的数学弱点，展示了AI在密码学前沿研究中的潜力。

4亿美元交易：GPU融资先驱转向推理芯片

AI推理云初创公司General Compute获4亿美元贷款，以推理芯片为抵押，标志着资本从GPU转向更高效的推理基础设施，推动开源模型发展。

TechCrunch — AI大约 2 个月前

芯片与算力投融资开源推理模型

OpenAI 发布 GPT-5.6 Sol/Terra/Luna，Codex 成为 ChatGPT 超级应用

OpenAI 推出 GPT-5.6 系列三款模型，以太阳、地球、月球命名，主打性价比分层；同时将 Codex 整合进 ChatGPT Work 桌面应用，向超级应用战略迈出关键一步。

Latent Space (Swyx)2 个月前

LLM 产品发布智能体推理模型

SWE-1.7：以极低成本实现前沿智能的推理模型

Cognition 发布 SWE-1.7 模型，通过强化学习在多个集群上训练，以极低成本达到接近 GPT-5.5 和 Opus 的智能水平，挑战了“后训练天花板”的假设。

Hacker News (AI)2 个月前

LLM 推理模型开源研究

Lilian Weng 总结 35 篇论文：Harness 工程驱动递归自我改进

Lilian Weng 发布综述，强调 Harness 工程是递归自我改进的核心，而非直接修改权重；Anthropic、Google 等纷纷推出智能体产品，Meta 发布 Muse 图像/视频模型，Liquid AI 提出 Antidoom 方法减少推理循环失败。

Latent Space (Swyx)2 个月前

LLM 智能体产品发布研究

Fable 5 发布与开放权重模型竞争加剧：AI 领域最新动态

本期 AINews 聚焦 Fable 5 模型发布后的使用指南与社区反应，同时报道腾讯 Hy3 开放权重模型、智能体基准测试、Anthropic 可解释性研究及推理效率进展，展现 AI 领域在模型能力、部署与安全方面的快速演进。

Latent Space (Swyx)2 个月前

LLM 开源产品发布研究

GLM 5.2 与即将到来的人工智能利润率暴跌

本文探讨开放权重模型 GLM 5.2 如何以极低成本接近前沿模型性能，并分析推理利润率即将崩溃对 AI 行业格局的深远影响。

Hacker News (AI)2 个月前

LLM 开源推理模型行业观点

DeepSeek开源推理优化，生成速度提升60-85%

DeepSeek发布DSpark论文，开源一种推理优化技术，可将大模型生成速度提升60-85%，显著降低推理成本。

Hacker News (AI)3 个月前

开源推理模型研究

AI推理初创公司Baseten据报以130亿美元估值融资15亿

AI推理初创公司Baseten在不到半年内估值飙升160%，据报正以130亿美元估值完成15亿美元融资，凸显推理层投资热潮。

TechCrunch — AI3 个月前

投融资推理模型产品发布

OpenAI推理模型助力医生诊断儿童罕见遗传疾病

研究人员利用OpenAI推理模型分析未确诊的罕见病病例，成功识别出18种新诊断，展示了AI在辅助临床诊断中的潜力。

OpenAI News3 个月前

推理模型研究