项目介绍
系统出故障时,最容易出现的幻觉不是模型说错了一句话,而是它把“我已经修好了”也当成了最终结论。让同一个智能体找原因、下命令、验收结果,听起来很自动化,实际更像让值班实习生兼任审批人和审计员——出了问题,连谁批准的都找不回来。
TrustOps Automation 解决的,就是这类高风险自动化里的“信任问题”。大白话讲,它不是再塞进来一个会聊天的机器人,而是一套面向高价值运维、安全团队和其他高风险业务的多智能体闭环运营平台。自动驾驶传感器融合失效、电商支付系统异常,都可以作为它要处理的故障场景。
它把分散的告警整理成一条能追踪、能回放、能审计的任务链:智能体先关联信号,再进行竞争性根因分析;涉及动作时,进入策略审批;执行尽量保持可逆;结果还要交给独立验证,最后留下复盘材料。Mission Control 则像现场的总控和裁判,负责权限、租约、恢复、证据与评审,避免智能体自己给自己颁发“成功证书”。
目前,项目已经完成确定性数字孪生基线、隔离环境闭环、证据封存,以及强化学习飞轮的基础架构。这里的“飞轮”不是把模型丢进生产环境让它自由发挥,而是先把事件契约、只读采集、结果标签、基线评估、安全回放和质量看板这些地基打牢。
下一步会先用影子模式优化告警、根因和技能推荐:系统可以观察和比较,但不急着替人按下那个可能很贵的按钮。只有在审批、回滚和独立验证这些护栏都在场的情况下,项目才会继续探索有限强化学习。支付恢复等领域则通过适配器接入,不需要为了换一个业务场景就把核心架构重新分叉。
说到底,TrustOps Automation 关注的不是“AI 能不能自己干活”,而是“它干活以后,谁能证明这件事做得对”。自动化可以快一点,但证据、权限和刹车,最好一个都别省。
开源仓库
更多实现细节、文档和进展证据,请访问 dgx-infra 开源仓库。