大可的 AI Builder 手记
跟随系统
颜色主题
长沙小桌实战
大可 Dako
大可 Dako大可 DakoAI Builder · Agent 实践者用 AI 做真正能用的产品。专注探索 Agent 工程化落地、Vibe Coding 实践与商业化交付。
内容平台即将上线,敬请期待
运行时容器全生命周期管理与弹性调度01按需申请轻量容器即时初始化常驻容器空置浪费02执行隔离不可变镜像与出网白名单未隔离导致环境污染03秒级快照内存与磁盘状态增量保存长任务中断无法恢复04按需唤醒审批事件触发恢复就绪空转等待耗尽资源✓ 解耦计算与状态,让长任务具备故障耐久性
解耦计算与状态,把脆弱的内存进程变成耐久的工作流。

面向过程的运行时:沙箱、快照与状态恢复

长时程任务不能把状态留在内存里:轻量沙箱隔离、秒级快照 Checkpoint 与事件驱动的按需唤醒。

很多初期搭建的智能体,底层的运行方式非常脆弱:在服务器上启动一个常驻进程,智能体生成的所有中间文件和状态,全部堆放在宿主机的同一个目录或当前进程的内存中。

这种模式在本地演示时看似正常,但是一旦进入生产环境,就会迅速暴露出三处严重的工程缺陷:

第一是资源浪费与并发瓶颈。如果一个任务需要等待人工审批,或者需要等待外部耗时较长的自动化测试,常驻进程就只能在服务器上空转等待。当并发任务量增加时,服务器的计算资源和网络连接很快就会被消耗殆尽。

第二是长流程缺乏故障恢复能力。一旦宿主机发生重启或网络闪断,原本已经执行了半小时的任务就会被迫中断。由于中间过程没有持久化记录,系统只能从头重新执行,不仅浪费了大量的时间,此前消耗的模型调用成本也无法追回。

第三是环境污染与安全风险。多个任务共享宿主机的文件系统,如果某个智能体误删除了公共依赖或者下载了异常脚本,就会直接导致同一台机器上的其他任务全部崩溃。

要解决这些问题,必须把运行时的底层抽象从「脆弱的常驻进程」升级为「面向过程的弹性沙箱」。

核心设计准则:计算临时,状态持久

面向过程运行时的第一原则,是将计算资源与业务状态彻底拆开:

计算资源是临时的(Ephemeral)。 智能体需要执行命令行、分析代码或处理数据时,系统才动态分配一个轻量沙箱。一旦当前操作执行完毕,或者任务进入等待阶段,计算资源就可以随时暂停甚至销毁。

业务状态是持久的(Durable)。 任务进行到了哪一步、修改了哪些文件、产生了哪些依赖,这些数据必须被独立保存在持久化存储中,绝不能依赖某台具体机器的内存。

维度 传统常驻进程模式 面向过程沙箱模式
运行环境 多个任务共享宿主机目录,缺乏物理隔离 每个任务分配独立微虚拟机(MicroVM)或容器
资源占用 中途等待时持续占用 CPU 与内存空转 挂起时即时休眠并释放资源,唤醒时秒级恢复
容灾能力 进程崩溃则全部丢失,必须从第一步重跑 在关键安全点留存快照,出错时就地回滚重试
环境生命周期 长期运行导致环境不断变脏、残留难以清理 任务完成或彻底失败后物理销毁,环境始终纯净
RUNTIME-03
进程级沙箱容器生命周期与秒级快照
毫秒级拉起、写时复制隔离、增量检查点快照备份、休眠挂起释放算力与无损回滚销毁闭环
01 PROVISION
轻量容器冷启动
MicroVM 毫秒级拉起,分配只读根镜像与临时写盘。
INIT: <120ms
02 ISOLATION
写时复制文件层
写操作严格限制在临时 CoW 层,宿主系统完全物理隔离。
STORAGE: OVERLAYFS
03 SNAPSHOT
增量安全检查点
执行关键工具前后触发内存+磁盘差量快照,供回滚使用。
CRIU: <1.1s
04 SUSPEND
智能休眠挂起
人在回路审批或长等待期间,实例冻结释放计算节点算力。
EVENT: SLEEP/WAKE
05 REVERT/CLEAN
秒级回滚与销毁
失败一键复原至最近检查点;任务完成彻底销毁不留痕迹。
TEARDOWN: ATOMIC

轻量沙箱隔离与出网控制

为了实现安全隔离,执行环境通常基于轻量虚拟化技术构建 firecracker-microvm。

每个任务启动时,系统为其挂载只读的基础系统镜像,以及一块专属于当前任务的可写数据层。智能体在沙箱内可以自由创建和修改文件,但是它看到的只是一个被严格限制的虚拟空间,无法触碰宿主机的文件,更无法窥探相邻沙箱的数据。

同时,沙箱必须施加严格的网络出口白名单管理。默认状态下,沙箱处于完全断网或仅允许访问指定内部依赖镜像源的状态。如果任务确实需要访问外部互联网(例如抓取公开技术文档),请求必须经由代理网关进行域名审查,防止模型受到诱导将企业机密数据外发。

秒级快照(Checkpoint)与安全回滚

在动辄持续数十分钟的长时程任务中,秒级快照机制是保证交付成功率的核心资产 cursor-cloud-sandboxes。

系统会在三个关键节点自动创建增量快照:

  1. 阶段里程碑达成时:例如环境初始化完成、核心代码文件编写完毕、单元测试全部通过之后;
  2. 高危动作执行前:即将执行数据库写入、修改系统配置等不可逆操作之前;
  3. 模型探索产生重大分歧前:当智能体准备在多种技术方案中尝试其中一种时。

快照不仅包含文件系统的改动记录,还完整封装了当前的步骤计数、会话记忆摘要与环境配置。这套机制的用户态实现(在 Linux 上冻结与恢复进程)已有成熟开源方案可供参照 criu-checkpoint。

如果智能体在后续步骤中陷入死循环、或者尝试的方案被证实完全行不通,系统不需要让任务重头开始。调度器可以直接命令沙箱丢弃最近的错误改动,一键回滚到上一个健康快照。模型拿到干净的环境状态与上一轮失败的具体原因说明,就能迅速换一条合理的路线继续推进。

按需休眠与事件驱动唤醒

当智能体触达人工审批节点,或者需要等待外部第三方系统的耗时响应时,系统不会允许沙箱继续空转消耗资源。

此时,运行时会将沙箱状态完整固化到对象存储中,随后将微虚拟机挂起休眠 fly-machines。底层的 CPU 和内存被立即释放,用于调度其他活跃任务。

当管理员在飞书或网页端点击了通过按钮,或者外部系统的构建完成通知以 Webhook 形式送达时,事件网关根据任务标识找到对应的休眠记录。调度器在几百毫秒之内拉起新的纯净沙箱,解压恢复之前的快照状态,让任务仿佛从未中断过一样继续执行。

STATE-04
运行时状态机与安全快照标桩
任务在待调度初始化、循环执行、审批挂起休眠、成功交付与失败回滚之间的状态流转
PENDING STEP 01
待调度初始化
Run 实例建立,分配临时工作区,挂载策略 allowlist。
📸 CP-01: Init State
dispatch →
RUNNING STEP 02
正在循环执行
推理与沙箱闭环循环,Step 事件流式推入 Trace。
⚡ Loop Active
act-gate →
INTERRUPT STEP 03
挂起等待审批
触达高危动作,进程挂起休眠,等待人类签名授权。
📸 CP-02: Safe Point
approved →
COMPLETED STEP 04
成功完成交付
四层验收全通过,产物归档,临时容器销毁。
📦 Final Artifact
fatal_err →
ROLLBACK STEP 05
失败触发回滚
判定不可自愈错误,凭快照秒级回滚到最后安全点。
↺ Revert CP-02

终态归档与环境销毁

当任务最终判定通过全部验收并交付时,系统将最终生成的交付文件(例如打包产物、补丁文件或数据报告)转存入企业的正式存储系统中,并生成一份不可篡改的交付记录。

与此同时,任务此前使用的临时沙箱被彻底删除,临时目录被彻底清空。没有存留的残留进程,也没有积累的技术垃圾。这种从创建、隔离、快照、休眠到销毁的完整闭环,让长时程智能体真正具备了企业级生产系统所需的稳定性和成本可控性。

参考资料

  1. Firecracker — Lightweight virtualization for serverless
  2. Cursor — 我们在构建云端智能体时学到的经验
  3. CRIU — Checkpoint/Restore in Userspace
  4. Fly.io Machines — Fast booting and fast suspending VMs