Anthropic's Claude Mythos Model 展示高级但有限的网络攻击能力

执行摘要

Anthropic的Claude Mythos预览版大型语言模型（LLM）能够根据英国AI安全研究所（AISI）的红队测试，自主执行包括侦察、漏洞利用和持久性建立在内的多步骤网络攻击链。该模型的攻击性网络安全技能超过了以前公开可用模型的技能。然而，AISI发现Claude Mythos无法在没有人类监督的情况下可靠地完成这些攻击序列的端到端，阻止了它在此时用于完全自动化、高信心的攻击。核心风险在于该模型可能显著降低技术攻击的进入门槛，使技能较低的威胁行为者能够发动复杂攻击。

技术分析

AISI的评估涉及向Claude Mythos预览版提出一系列夺旗（CTF）挑战和现实、多阶段的攻击场景。该模型展示了在网络杀伤链中执行任务的能力。它能够分析代码片段以识别潜在漏洞，制作相应的利用有效载荷，并建议在被攻击后采取的行动，例如部署后门或掩盖其行踪。这代表了与早期LLMs相比的质的飞跃，后者通常仅限于生成离散的简单有效载荷或提供咨询级别的指导。

至关重要的是，测试揭示了模型在操作可靠性方面的基本限制。Claude Mythos在维持上下文和在扩展、复杂任务中完美执行逻辑序列方面表现出失败。根据AISI的发现，该模型“无法可靠地”在没有错误的情况下执行这些攻击。这种不可靠性作为一种断路器，阻止了模型作为完全自主的攻击代理的功能。技术上限似乎是一个高度有能力但不一致的助手，可以自动化攻击工作流程的大部分，而不是一个现成的攻击平台。

入侵指标

目前没有识别出任何指标。

战术、技术与程序

在测试中展示的Claude Mythos的TTPs跨越了多个MITRE ATT&CK框架阶段。在初始访问中，该模型展示了为软件漏洞制作利用代码的熟练程度。一旦模拟了访问，它可以通过编写脚本或命令在目标系统上运行，参与执行技术。对于持久性，它建议使用创建计划任务或安装服务等方法。该模型还展示了防御规避战术的知识，例如混淆有效载荷或禁用安全工具。它能够将这些技术以逻辑、目标导向的序列链接起来——从漏洞发现到shell访问再到建立后门——标志着它与以前LLMs相比的最大进步。然而，这些链接程序的确切成功率和一致性仍不清楚。

威胁行为者背景

这项研究的主要含义是针对低级别的威胁行为者，包括脚本小子和初始访问经纪人。Claude Mythos的能力可以民主化高级攻击开发的方面，允许具有最少编码或安全专业知识的行为者生成复杂的利用和攻击计划。这可能导致来自这些群体的攻击数量和技术质量增加。对于高级持续性威胁（APT）集团和国家赞助的行为者来说，模型目前的不可靠性可能使其对核心操作的吸引力降低，与他们现有的、经过验证的工具和定制恶意软件相比。然而，他们可能会利用它进行快速原型设计，或作为对经验较少的操作员的教育工具。没有证据将模型的能力与任何特定的活跃威胁集团联系起来。

缓解措施与建议

组织应优先考虑基础安全卫生，因为LLM增强的攻击可能会更有效地利用已知漏洞和常见配置错误。关键行动包括严格和及时的补丁管理、强大的凭证政策和网络分割以限制横向移动。安全团队还应加强对Claude Mythos展示的TTPs的监控，如不寻常的计划任务创建或尝试禁用日志记录。对于AI开发人员和政策制定者，AISI的发现强调了对前沿AI模型进行部署前红队测试的必要性。缓解措施应内置于模型的设计中，例如在网络安全特定提示上触发的加强护栏，以及对滥用模式的持续监控。当前自主攻击链的不可靠性质表明，人为干预的检测和响应仍然是高度有效的对策。