上线:把评审会上的话逐句验证
上线评审里常听到这样的话:“有 checkpoint,所以不会丢进度”“超时设成 30 秒,所以最多卡 30 秒”“追踪不会泄露隐私”。这些话都该有实验撑腰。上线前按恢复、延迟、追踪和发布四步验证,把它们逐句跑一遍。
上线前要确认什么
| 要确认的事 | 从这里开始 |
|---|---|
| 崩溃重启后,流程不会重复执行(重复扣款、重复发货) | LangGraph checkpoint 与故障恢复 |
| 请求偶尔卡几分钟,需要算出最坏延迟 | 模型调用的延迟预算 |
| 打开 LangSmith 追踪后,到底发出去了什么 | LangSmith 追踪上线前核对 |
| 写一份真正能执行的上线检查表 | LangChain 生产发布检查表 |
上线前的可靠性与验收
按恢复、延迟、追踪、发布四步,逐项验证上线评审会问到的事。
- LangGraph checkpoint 与故障恢复:崩溃、重启、幂等与重放实测
验证崩溃恢复:checkpoint 保存了什么、哪些步骤恢复时会重复执行,并用幂等键保护有副作用的节点。
- ChatOpenAI 超时与重试预算实测:退避、Retry-After 与两层重试叠加
计算模型调用的最坏延迟,并设好超时、重试次数和外层截止时间。
- LangSmith 追踪上线前核对:外发内容、脱敏开关与服务中断实测
确认追踪外发了哪些字段,并按核对表关掉不该外发的部分。
- LangChain 生产发布检查表:可执行预检、故障注入与并发会话实测
执行发布预检:把 7 项检查接进 CI,并核实并发下的会话隔离和同一会话的丢更新风险。