首页 网络安全 漏洞挖掘 查看内容

Anthropic刚开源了一个AI漏洞挖掘框架,我拿了两个项目试了试

2026-6-15 12:44 21 0

摘要: 项目地址:https://github.com/anthropics/defending-code-reference-harness它提供了几种使用方式:Claude Code Skills:直接在 Claude Code 里跑 /quickstart、/threat-model、/vuln-scan、/triage...
关键词:Claude, Anthropic, GitHub, Code, C/C++, quickstart, patch, pipeline, Claude Code, 个项目


前几天刷 HackerNews,看到 Anthropic 开源了一个叫 "Defending Code Reference Harness" 的项目,昨天冲到了 234 分,GitHub 上已经 973 星了。

这个项目说白了一句话:用 Claude 来自动挖代码漏洞,从威胁建模到扫描、分类、打补丁,一条龙。

我自己的项目一直在做安全审计方面的工作,看到这个就忍不住想试试。这篇文章说说我试完的感受。

这个项目到底是干什么的

Anthropic 之前跟几家安全团队合作,积累了用 Claude 做漏洞发现的经验,然后把这些经验打包成了一个开源框架。

项目地址:https://github.com/anthropics/defending-code-reference-harness

它提供了几种使用方式:

  • Claude Code Skills
    :直接在 Claude Code 里跑 /quickstart/threat-model/vuln-scan/triage/patch 这些命令,交互式操作。
  • 自动流水线
    :一个完整的自主扫描 pipeline,从 recon(信息收集)→ find(发现漏洞)→ verify(验证)→ report(报告)→ patch(打补丁),不需要人每一步都看着。
  • 可定制
    :默认配的是 C/C++ 内存漏洞扫描(用 Docker + ASAN),但你可以改成自己项目的语言和检测器。

默认的自动流水线跑在 gVisor 沙箱里,确保扫描目标代码的时候不会真的搞坏你的环境。

第一件事:搭环境

先 clone 下来试一下:

git clone https://github.com/anthropics/defending-code-reference-harness cd defending-code-reference-harness

然后跑 claude 进去,输入 /quickstart,它会带你过一遍 canary target(一个故意留了漏洞的测试项目)。

我本地的 Claude Code 环境已经配好 API key 了,直接试了 /vuln-scan。这个命令会扫描当前 repo 的代码,找出潜在的安全漏洞。

扫描结果

第一次跑在我的一个 Python 项目上,它扫出了几个问题:

1. SQL 注入风险:有个查询语句直接拼接了用户输入,没有参数化。这个我自己也知道,但 Claude 给出了具体的修复建议。

2. 路径遍历:文件读取接口里没做路径校验,攻击者可以读到意料之外的文件。

3. 不安全的反序列化:用了 pickle.load() 处理用户上传的数据。

每条漏洞都给了严重等级、受影响代码行号、以及修复方案的代码示例。说实话,比我之前用的一些 SAST 工具(像 Bandit、Semgrep)要详细,因为它在解释漏洞原理的时候会结合代码上下文,不是抛一个 CVE 编号就完事。

第二件:试自动 patching

这个框架有一个 /patch 命令,可以基于找到的漏洞自动生成修复代码。

我试了一下让它修复 SQL 注入的问题。它把查询改成了参数化查询,然后在同一个 PR 里加了一个单元测试来验证修复有效。

当然,自动生成的补丁不是 100% 完美。我仔细看了一遍,发现它在处理一个边缘 case 的时候逻辑有点问题——如果输入是空字符串,它没做特殊处理。但是大框架是对的,我改了两行就上线了。

几个值得注意的点

这个项目不开源了吗?

是的,MIT 协议。不过 README 里明确写了 "This repo is not maintained and is not accepting contributions"——是参考实现,不是长期维护的产品。如果想用托管服务,Anthropic 有 Claude Security 这个产品。

只支持 C/C++ 内存漏洞?

默认的自动 pipeline 配的是 C/C++ + ASAN,但你可以通过 /customize 改成任何语言和检测器。我自己的 Python 项目也能跑,只是需要用 Claude Code Skills 的模式,不是自动 pipeline。

它能替代人工审计吗?

我觉得不能。它更像是给你的安全团队加了一个能 24 小时自动扫代码的实习生。一些明显的漏洞它能很快找出来,但需要业务理解和上下文关联的复杂漏洞,还是得人来判断。

为什么这件事值得关注

Anthropic 今年在安全方向上动作不小。之前公布过 Project Glasswing,专门做关键软件的 AI 安全防护。这次开源这个框架,等于把他们的方法论直接放出来让大家用。

更值得玩味的是,同一天 Anthropic 还在呼吁全球暂停 AI 发展,理由是 AI 可能很快就能自我改进。一边说 AI 有风险要慢下来,一边开源 AI 安全工具帮大家防御——这两件事放在一起看,其实不矛盾。安全工具越开放,整个生态就越安全。

对于做开发的同学来说,我建议你把项目的 /quickstart 跑一遍,哪怕只是看看它能扫出什么。很多 CI/CD 的漏洞检查工具已经过时了,AI 时代的安全扫描应该有新思路。

觉得有用点个👍

有问题留言聊


本文出处: https://mp.weixin.qq.com/s/4WgVvpBR36Dx3SD247UIiA
声明:文章版权归原作者所有 部分文章转自互联网 如有侵权请联系 [邮箱地址] 删除

路过

雷人

握手

鲜花

鸡蛋

最新评论

返回顶部