作者简介
Context 是一家 AI 原生办公套件公司，由 Thiel Fellow Joseph Semrai 于 2024 年创立，总部位于旧金山。Semrai 20 岁从斯坦福辍学创办 Context，此前曾构建全球首个联网 LLM 聊天机器人 Friday（后被 Andi Search 收购）。公司于 2025 年 5 月完成 1100 万美元种子轮融资，估值 7000 万美元，由 Lux Capital 和 Qualcomm Ventures 领投。Context 的核心产品是基于自研 Context Engine 的智能体办公平台，支持超过 5000 万 Token 的长上下文处理，可接入 300 余款企业应用。
文章概述
本文提出"sleep-time compute"（睡眠时算力）概念：AI 智能体在执行任务时产生大量原始痕迹（检索记录、尝试路径、人类修正），这些痕迹是学习的最佳素材，但在用户等待响应的推理热路径上处理它们会引入延迟。Context 的方案是将这些原始数据的整理和蒸馏推迟到系统空闲时段，由 Generator-Reflector-Curator 三阶段循环完成，按组织、团队、个人三个层级并行写入结构化上下文存储。文章的核心洞察对 AI 基础设施从业者有直接参考价值：如何在不牺牲推理延迟的前提下实现系统持续自我改进，以及如何将知识积累层与呈现层解耦以适应方法论的快速迭代。
正文翻译
Sleep-time compute
一个执行真实工作的智能体会产生大量"废气"。每个任务都留下一条原始痕迹：它检索了什么、尝试了什么、在哪里出错、人类做了什么修正。学习就藏在这条痕迹里，但它以最糟糕的形式——原始且庞大——在最糟糕的时间——用户正在等待回复时——到来。
所以我们不在那时从中学习。我们稍后学习，在空闲算力上，就像一个人在夜间整合一天的工作。我们称之为 sleep-time compute。
热路径是学习的错误场所
推理时有两样东西是稀缺的：延迟和注意力。用户在等待，每一毫秒花在整理上一个任务记录上，都是当前任务变慢的一毫秒。在用户注视下将混乱的痕迹蒸馏成干净、可复用的上下文，是错误的交易。
所以平台几乎不在那里做这件事。任务执行期间，它以低成本捕获原始痕迹然后继续前进。昂贵的部分——将那条痕迹转化为下一个智能体可以使用的东西——完全发生在热路径之外，那里没有用户时钟在倒计时。
只有另外两个选项，且都更差。在线做蒸馏，每个任务都要为清理上一个任务付出税，用户会感受到延迟。或者永远不做，系统永远不学习，丢弃每个任务产生的最有价值的东西。脱离热路径的整合，是你获得学习而不付出税的方式。
为什么"睡眠"是正确的词
与睡眠的类比不仅是巧妙。生物记忆巩固做的事情在结构上是相似的：白天的原始经验在身体离线时被回放和压缩为持久记忆，恰恰因为在清醒时做这件事会干扰行动。
将整合转移到空闲时间是同一个动作，出于同一个原因。系统白天行动、夜间学习，两者互不干扰。工作保持快速，因为学习等到了一个安静的时刻。
在什么都没发生时处理它
在活跃任务之间，有算力闲置，没有用户在等待。这就是 sleep-time compute 运行的时候。它取最近工作的原始活动并将其整合为结构化知识——流程笔记、修正、反复出现的模式——写回上下文层，未来的智能体会在那里找到它们。
在热路径上会消耗延迟的工作，在空闲周期上不消耗任何成本，并且改善之后的每一次检索。明天的任务更快更好，因为有处理在没人使用的时间上运行。今天没有任何事情因此变慢。
举个具体例子。在构建一份盈利展示材料时，一个智能体留下一条原始痕迹：它打开的文件、它画的图表、以及一位专家的修正——数字应该用调整后的 EBITDA，瀑布图应该按季度环比排列。原始状态下，这是几百行事件日志，对下一个智能体来说毫无用处。Sleep-time compute 读取它并将一条持久笔记写入该账户的上下文：这个账户使用调整后的 EBITDA，瀑布图按季度环比排列。下一个智能体读一个句子里的笔记，而不是一千行的日志。
管线做了什么
具体来说，整合是一条管线。原始事件被蒸馏为候选观察。信号从噪声中提取——反复出现的修正被保留，一次性的被丢弃。被保留的信号作为结构化、可检索的知识写入上下文存储，下一个智能体在正确的时刻读取它。
原始工作事件（痕迹、修正、观察）→ 蒸馏（原始到候选笔记）→ 提取信号（保留反复出现的，丢弃一次性的）→ 写入 .context（结构化、可检索的）
Generator 提议，Reflector 批判，Curator 写入。在空闲算力上运行，分组织、团队和个人三个层级。
Sleep-time compute 将工作的原始废气转化为结构化上下文，脱离热路径，在没有用户等待时完成。
它分层级并行运行——组织、团队和个人——因为整个组织应该学到的东西和一个人的助手应该学到的东西是不同的整合。属于所有人的模式写在树的高层；属于一个人的偏好留在他们身边。
Generator、Reflector、Curator
核心是一个借鉴自近期研究的循环。Generator 从新活动中提议对上下文的更新。Reflector 对其进行批判，询问提议的教训是否真实、是否与已知内容一致、是否值得保留。Curator 决定什么实际被写入——增量地——写入存储。
这个循环的要点是克制。天真地追加智能体注意到的一切会让上下文膨胀，充斥噪声和矛盾，而嘈杂的上下文检索效果更差而非更好。Generator-Reflector-Curator 循环是让这一层在信号而非体量上增长的机制。目标不是更大的存储，而是更锐利的存储。
一致性是 Reflector 真正的工作。当新教训与存储中已有的相矛盾时，同时追加两者会让下一个智能体面对两个答案而无法选择。Reflector 捕获冲突，Curator 解决它——更新旧笔记或将新笔记限定在它适用的情况下——这样存储保持连贯而非积累矛盾。写入按语义去重，同一个教训学到十次只记录一次，其置信度被加强而非体量增加。
何时运行
两个触发器启动它。一个是定期节奏，大约每几小时一次，按固定频率扫描最近的活动。另一个是容量阈值——当未处理的活动堆积超过可配置限制时触发，这样一波工作爆发能及时被整合，而不是等到下一个定期扫描。
稳态靠定期调度运行；突发靠阈值捕获。两者都不与实时推理竞争，因为都运行在空闲池上，与服务用户的工作负载解耦。学习永远不从工作的延迟预算中借用。
先积累，后呈现
所有这一切之下有一个设计选择值得单独提出，因为它是"拥有数据、租用方法"原则应用于上下文层的体现。知识积累和知识呈现之间有一条硬分界线。存储是持久的积累：组织所学的原始和蒸馏记录。
如何将那个存储编译成给定 prompt 的正确上下文，是一个独立的、可替换的层。呈现侧被设计为可替换——今天的 prompt 优化方法、明天的——无需重新处理底层存储。将上下文转化为 prompt 的方法会持续改进。积累的上下文不必在每次方法更新时重建，这就是将两者分开的要点。
收益是具体的。当一个更好的 prompt 优化方法发布时，你将编译器指向现有存储，立即获得更好的 prompt，无需重新处理一年的蒸馏上下文。你租用最新的方法，保留它运行所依赖的数据。这就是上下文层的全部论点，浓缩在一个运营细节中。
在睡眠中学习
便宜的洞察是：智能体仅通过工作就生成了改进自身的数据。昂贵的部分是将那些原始数据转化为可用的东西，而诀窍是永远不在热路径上为它付费。在用户等待时低成本捕获；在无人等待时于空闲算力上整合；保持积累持久、呈现可替换。运行你明天任务的智能体比今天的更好，而你今天的任务没有一个因此变慢。这就是在睡眠中学习的全部意义。
