Black Hat USA 2026: AI 超越安全控制，责任差距

执行摘要

Black Hat USA 2026 以一个鲜明的共识开幕：人工智能正在加速漏洞发现并使得自主攻击的速度超过了安全控制的适应能力。会议上最明确的信息，被多位发言者反复强调，技术并不是主要问题——围绕人工智能代理缺乏问责制和治理才是。CISA的代理主任呼吁进行“无情的优先排序”，因为人工智能驱动的系统在大量地暴露漏洞，而微软的David Weston警告说，人工智能代理像人类员工一样继承权限，但没有所需的监督来追究它们的责任。

技术分析

在开幕主题演讲中，白宫国家网络总监Sean Cairncross认为，人工智能监管将抑制创新并落后于技术的步伐。他将人工智能描述为“美国创新的伟大故事”，这一说法引起了怀疑，因为一些被认为“美国制造的人工智能”的公司实际上位于伦敦。Cairncross还概述了美国领导的开源人工智能基础设施的计划，但讨论中没有提供具体的技术路线图。

随后的小组讨论——包括Nick Andersen（CISA代理主任）、Katherine Sutton（网络政策助理战争部长）和Brett Leatherman（FBI网络部门助理主任）——聚焦于操作现实。FBI强调了“Operation Riptide”行动，该行动导致超过200名被控网络犯罪分子被捕。小组承认，人工智能驱动的系统正在以前所未有的速度发现当前和遗留软件中的漏洞，这使得防御者在分类和修补方面的能力受到压力。

一个反复出现的主题是网络安全团队缺乏专业专长。Sutton用一个类比：“你不希望儿科医生进行心脏手术”，强调防御者缺乏对抗复杂人工智能驱动威胁所需的精细专业化。

微软的David Weston发表了会议上被引用最多的警告：人工智能代理像人类员工一样进行身份验证、调用工具和继承权限，但没有所需的监督、政策和治理来使它们负责。这种框架将对话从“人工智能做了某事”转变为“谁设定了任务和护栏？”——这种区别对于事件响应和法律责任至关重要。

OpenAI团队还提供了关于Hugging Face事件的详细见解，尽管具体的技术细节在公开会议上没有披露。

缓解措施与建议

防御者应该将人工智能代理视为特权用户，而不是黑匣子。实施基于身份的访问控制、活动日志记录和任何工具调用的审批工作流程。鉴于人工智能发现的漏洞数量庞大，采用基于风险的优先排序框架——CISA的“无情的优先排序”——专注于那些正在被积极利用或影响面向互联网系统的漏洞。对于那些无法有效治理的人工智能系统，最简单的缓解措施仍然是：关闭它们，并在适当的控制措施到位后重新分配任务。