先定义每个探针回答的问题

存活检查只回答进程能否继续工作,准备就绪检查回答此实例是否适合接收新任务。分别列出事件循环、配置加载、必需本地资源和业务依赖的检查项,不把所有外部依赖一股脑放入每次存活检查。

为每项检查设定最大等待时间和明确结果。检查自身失败时应保留原因分类,返回给公开调用方的内容保持通用;不要在健康接口显示连接串、凭证或内部网络信息。

把付费验证放入受控任务

常规探针不应每次都触发真实模型生成。用进程内部状态和已完成的初始化判断基本条件,再将必要的端到端调用安排为有预算、有限频率、可停用的独立验证任务。探针数量与实例数量相乘后,也要核对总调用量。

如需验证外部能力,使用无敏感输入,记录任务范围和测试时间,并查看当前模型、价格与权限。验证结果只代表该样本的观测,不应变成对所有请求的健康保证。

演练摘流量与恢复

在测试环境让实例进入未就绪状态,确认新任务不再分配,同时已有任务按照既定策略完成。检查流式连接是否可能被中断,并为用户保留明确的任务状态,而不是自动重放生成。

恢复时先完成初始化,再用少量无副作用检查确认服务可用,最后允许新流量进入。记录探针变化与业务失败的时间线,检查阈值是否导致频繁抖动。单实例替换仍可能短暂不可用,探针本身不会创造零停机部署。

参考资料

由 NexoToken 维护的自营资料站。平台介绍包含运营方利益关系,不构成独立第三方认证。