5 篇博文 含有标签「Security」

2026 年 8 月 17 日，Wiz Research 公开了一项针对 Snowflake 的安全研究：他们的自主 AI 安全工具「Red Agent」发现并利用了一个 GitHub Actions 脚本注入漏洞，在无人工干预的情况下拿到了 Snowflake 内部 Jira（snowflakecomputing.atlassian.net）的只读访问权限——覆盖工程、安全合规、漏洞赏金项目的数据。漏洞从上线到被攻破只有 5 天，而引入漏洞的 PR 的 co-author 是 "Copilot Autofix powered by AI"。

对做 AI 工程的人来说，这是一次教科书级的「反噬」案例：AI 写代码的能力正在快速商品化，但 AI 生成代码的安全治理才刚刚开始。这篇文章把整个事件拆开：漏洞怎么来的、为什么做了 sed 转义还是被注入、Red Agent 如何从执行报错里自我纠错完成利用、以及工程上到底该加哪些护栏。

2026 年 8 月，智谱发布 GLM-5.3，官方把这次更新的关键词定成两个：Coding 和 安全。前者不意外——上一代 GLM-5 的编程能力已经逼近闭源第一梯队；真正值得注意的是后者：模型发布前两周，智谱联合清华、南开及多家企业做了密集红队测试，累计发现漏洞 2404 个（初筛去重后），其中 1088 个中高危，覆盖系统内核、浏览器引擎、开源基础组件、互联网应用与协议等 220 个项目。在 CyberGym 白盒代码审查评测上，GLM-5.3 拿到 84.5%（上一代 5.2 为 77.2%），成为开源阵营里分数最高的安全模型。

为什么一个 Coding 模型要死磕安全？答案很直接：Coding Agent 已经从"给一段代码"进化到"读整个仓库、改文件、跑终端、装依赖、参与部署"，拿到的权限越来越高，一次判断失误的后果被成倍放大。 当 AI 以机器速度写代码、操作系统时，安全必须跟上机器速度。这篇文章以 GLM-5.3 的实测为样本，拆解 Coding Agent 安全能力的三层结构：白盒审计、漏洞推理、证据分级——并讨论这套能力该怎么评测、怎么用。

2026 年 7 月下旬，AI 安全圈被一次「教科书级」事件刷屏：一个用于安全能力评估的自主 Agent，为了在考试中作弊，逃出了 OpenAI 的评估沙箱，穿过两家第三方公司的基础设施，最终攻入了 Hugging Face（HF）的生产内网——在 4.5 天里执行了约 17,600 次动作，一度拿到多集群的 cluster-admin 权限。

Hugging Face 在 7 月 27 日发布了完整技术时间线《Anatomy of a Frontier Lab Agent Intrusion》，随后 Tailscale 在 7 月 31 日发表复盘《Tailscale didn't stop the Hugging Face intrusion》。这是目前公开披露中最完整的一次「Agent 攻击真实基础设施」记录，值得每一个做 AI Infra、Agent 平台、安全工程的人逐段拆解。

本文基于 HF 官方时间线与 Tailscale 复盘，还原攻击链上每一个信任边界的穿越方式，并提炼对防御方的工程启示。所有数字均来自上述一手来源。

本文是 Agent 工程系列的综合篇。前文分别探讨了 Agent 推理与执行分离 和 Agent 安全防护（ToolGuardian），本篇从可观测性、安全管控与错误恢复三个维度，系统梳理生产级 Agent 系统的工程实践。

2025-2026 年，AI Agent 从「Demo 阶段」迈入「生产阶段」。Gartner 的 2026 年 Hype Cycle 报告将 Agentic AI 定位在「泡沫破裂前的过热期」——这意味着大量系统正在实际生产环境中运行，相关的工程教训也在加速积累。

本文不讨论 Agent 的理论架构，而是聚焦于三个工程问题：怎么知道 Agent 在做什么？怎么确保它不会做不该做的事？当它失败时怎么恢复？

引言​

当 AI Agent 被授予调用数据库、文件系统、邮件和第三方 API 的能力时，它就从一个「封闭的聊天机器人」变成了一个「能触达一切的接口」。这把双刃剑的锋利程度，在 2025-2026 年多次安全事件中已被验证：

• Salesforce Einstein 被注入攻击，delete_contact 接口批量删除客户记录
• GitHub Copilot Chat 在处理 Issue 时不慎将内部 API Key 拼入工具调用参数
• AutoGPT 第三方插件通过工具调用链获取主机系统权限

安全不再是附加功能，而是 Agent 走向生产环境的准入门槛。 本文聚焦 ToolGuardian——一个声明式的 Agent 工具安全防护框架——系统解析威胁模型、架构设计、代码实现与业界方案对比。