ChatGPT Pulse 的工作机制非常像 AI IDE 公司 Letta 的Sleep-time Compute。四月份我做过相关论文分享。
将用户的 query 作为分界线,模型在接收到 query 之后被视为“唤醒阶段” test-time compute,在此之前则为“睡眠阶段” sleep-time compute。
LM 的任务是:“思考这个 context,有哪些可能有用的信息?” 这些信息会被结构化为一种“状态”(state)保存下来。
ChatGPT Pulse 可能直接把用户query也生成了。
小型公司的方法创新,似乎逐渐被大公司吸纳。
点击图片查看原图