漏洞攻防研究者的技术思考与实践

为何研究攻击技术

研究如何攻击系统并非出于"行善"的动机，而是因为解决安全难题本身充满乐趣。这与选择成为公设辩护人或庇护所工作者的动机不同——后者由利他主义驱动，而安全研究更接近解谜游戏。

漏洞的连续性谱系

所有安全漏洞可根据修复难度分布在连续谱系上：

1. 可修补漏洞

   • 典型案例：存在SQL注入或XSS漏洞的Web服务器
   • 特征：开发者能快速推出补丁，修复后系统完全免疫
   • 披露策略：应给予开发者修复时间

2. 不可修补漏洞

   • 典型案例：AES/RSA等加密原语的基础性破解
   • 特征：已有加密数据永久暴露，所谓"补丁"仅能防止新数据受害
   • 披露策略：需立即公开以最小化累积损害

实战案例研究

Web应用漏洞（2010年代早期）

• 发现数百个XSS/CSRF/SQLi漏洞
• 标准处理流程：私下报告→开发者修复→获取漏洞赏金
• 仅对开源项目创建CVE编号

伯克利选课系统漏洞

• 发现链式XSS/CSRF漏洞可导致全校学生退课
• 特殊挑战：遗留系统无人维护
• 处理方案：隐藏漏洞四年直至系统退役

Chrome扩展漏洞（首篇研究论文）

• 过半流行扩展存在设计缺陷
• 关键认知：某些漏洞代表新缺陷类别，需公开警示行业

机器学习攻击演进

1. 2018年初期
   • 模型使用率低，直接公开攻击方法
2. 2023年模型投毒攻击
   • 通过抢注过期域名注入训练数据
   • 提前通知数据集维护者添加完整性校验
3. 语言模型窃取攻击
   • 以数百美元成本提取ChatGPT部分参数
   • 提前90天通知相关机构修复API缺陷

训练数据提取攻击

• 一般原则：立即公开（延迟会导致更多敏感模型被训练）
• 例外：ChatGPT的API漏洞给予90天修复期

防御机制的根本局限

以图像对抗保护技术为例：

1. 防御原理：艺术家上传添加对抗噪声的图片
2. 根本缺陷：
   • 一旦发布即无法更新
   • 攻击者可批量下载后等待防御破解方案
3. 核心结论：此类"不可修补"防御应尽早公开缺陷

攻击研究的双重价值

1. 内在动机

   • 破解系统如同解决精妙谜题
   • 通过攻击深度理解系统架构

2. 社会价值

   • 暴露缺陷是修复的前提
   • 在ML安全领域尤其关键：
     • 不存在通用攻击基准
     • 每个防御都需要定制化破解测试

专业伦理边界

• 基础准则：当漏洞披露可能直接导致人身伤害时需特殊考量
• 核心矛盾：立即披露可能伤害现有用户 vs 延迟披露可能扩大受害者范围
• 决策框架：根据漏洞可修补性动态调整披露策略
  更多精彩内容 请关注我的个人公众号 公众号（办公AI智能小助手）
  公众号二维码