AI 安全
83 篇文章
AI 安全、LLM 滥用、模型治理与防御者 AI 应用报道。
AI 从助手转变为操作者在实时攻击中，Check Point
Check Point Research 的 AI 安全报告 2026 记录了 AI 现在运行实时入侵，一周内构建 88,000 行 C2 框架，并通过网络钓鱼大规模启用 vishing 通过...
美国解除对Anthropic前沿网络人工智能模型的出口管制
美国解除出口管制后，Anthropic恢复了对Fable 5的全球访问；商务部测试了一种新的安全分类器，在99%的情况下阻止了引用的越狱。
HIGH仅浏览器勒索软件利用Chrome文件系统API
Check Point Research 发现一个 DeepSeek 生成的样本使用 Chrome 的文件系统访问 API 加密 Android 照片目录 —— 不需要原生负载或漏洞。
HIGH信任无技能：BIV审计发现80%的AI代理技能行为不端
Unit 42的行为完整性验证扫描了49,943个OpenClaw技能，发现80%偏离声明行为，多阶段攻击链使凭证盗窃成为可能...
HIGHAI Agents Automate Exploitation of Obscure Vulnerabilities
AI代理现在自主发现并利用不为人知漏洞，同时AI生成的代码使漏洞泛滥成灾。防御者必须适应代理规模的威胁。
HIGHChrome 148 修复 AI 站点隔离绕过，Android 支付漏洞
CVE-2026-8568 (CVSS 3.1) 允许攻击者在渲染器被破坏后通过 AI 功能绕过 Chrome 站点隔离；CVE-2026-8566 (CVSS 4.3) 针对 Android 支付。
HIGHOpen WebUI 修补三个漏洞：XSS、SVG注入、认证绕过
Open WebUI 修复了 CVE-2026-45314（SVG XSS）、CVE-2026-45303（iframe脚本注入）和 CVE-2026-44567（待定角色认证绕过）——全部在自托管的AI平台上。
HIGHAI幻觉利用人类对关键基础设施的信任
AI模型产生自信但错误的输出，导致防火墙配置错误和管道阀门错误，研究人员警告。
INFORMATIONALAI安全初创公司在1Q26的融资超过收购金额10亿美元
Dark Reading报道，在1Q26，AI安全初创公司的投资超过了收购价值超过10亿美元，这表明成熟公司面临的“死亡之谷”正在扩大。
HIGH黑客利用PraisonAI认证绕过漏洞在披露后几小时内
Sysdig在公开通告后的3小时44分钟内检测到CVE-2026-44338利用尝试——攻击者探测了暴露的PraisonAI实例上的/agents。
INFORMATIONALMythos AI 在代码审计中表现出色，但在漏洞验证方面存在困难
XBOW 基准测试显示 Anthropic 的 Mythos AI 在源代码审计和逆向工程方面非常强大，但在漏洞验证方面表现不一致，并且容易夸大发现。
HIGHOpenAI 在 TanStack 供应链攻击中被入侵
OpenAI 表示，在 TeamPCP Mini Shai-Hulud 活动中，两名员工的设备被入侵，迫使 macOS、Windows、iOS 和 Android 上的代码签名证书进行轮换。
CRITICALPwn2Own Berlin 2026: 研究人员通过黑客攻击Windows 11和Edge赚取52.3万美元
在Pwn2Own Berlin 2026的第一天，研究人员为24个零日漏洞收集了52.3万美元，包括Orange Tsai通过Edge沙箱逃逸获得的17.5万美元，以及三个Windows 11权限...
HIGHAI驱动攻击在73秒内破坏系统，超越补丁速度
Picus Security分析显示，AI驱动的攻击者利用CVEs大约需要10小时，而破坏系统仅需73秒，而补丁仍然需要24小时。
CRITICALCosyVoice gRPC 服务器不安全反序列化漏洞 CVE-2026-31251
CVE-2026-31251: CosyVoice gRPC 服务器通过 torch.load() 反序列化不受信任的模型，而没有设置 weights_only=True，从而允许通过精心制作的 .pt 文件实现 RCE。尚未确认补丁。
HIGH假的 OpenAI 仓库在 Hugging Face 上推广 Rust 信息窃取器
一个被恶意抢注的 OpenAI 仓库在 Hugging Face 上达到了第一名，下载量达到 244,000 次，分发了一个基于 Rust 的信息窃取器，该窃取器针对浏览器凭证、加密钱包和 VPN...
HIGHPraisonAI 漏洞允许代理执行任意 Python 工具
CVE-2026-44339 (CVSS 8.6) 在 PraisonAI 多代理框架中允许代理解析未声明的工具名称与模块全局变量，从而实现任意 Python 执行。
HIGHBraintrust 泄露暴露 AI 供应商 API 密钥，敦促轮换
Braintrust 在 5 月 4 日披露了一起泄露事件，攻击者访问了一个 AWS 账户，泄露了 Box 和 Stripe 等公司 AI 供应商的 API 密钥。至少有一名客户受到影响。
Boost Security 融资400万美元，收购 SecureIQx 和 Korbit.ai
Boost Security 筹集了400万美元以扩展其 AI 原生的 SDLC 防御平台，收购 SecureIQx 用于可达性分析和 Korbit.ai 用于代码审查。
CRITICAL严重Ollama漏洞CVE-2026-7482暴露30万部署
Cyera披露CVE-2026-7482（CVSS 9.3）— Ollama的GGUF模型加载器中的堆越界读取，通过三个未经身份验证的API调用泄露提示、API密钥和秘密。
思科收购Astrix Security以保护非人类身份
思科宣布计划收购Astrix Security以应对人工智能和机器工作负载中的非人类身份风险。这笔交易扩大了思科的身份安全产品组合。
MEDIUMOpenAI 强化 ChatGPT 登录安全 新增控制措施
OpenAI 推出 ChatGPT 的高级账户安全功能：强制使用密码密钥、缩短会话时间以及账户恢复变更。影响全球所有用户。
HIGHAI辅助攻击重塑2026年网络威胁格局
日本少年因窃取700万Kaikatsu Club记录以购买宝可梦卡片而被捕 —— 这是AI工具如何降低2026年网络犯罪门槛的一个例子，据The Hacker News报道…
HIGHAI Agents 破坏生产数据库由于访问控制不当
Dark Reading 报告 AI agents 正在删除生产数据库，因为组织在没有适当的安全测试或访问控制的情况下部署代理集成。
MEDIUM英国网络机构警告人工智能将引发'补丁浪潮'紧急修复
NCSC 警告组织为紧急补丁的激增做好准备，因为人工智能加速了漏洞发现，提高了利用风险。没有引用具体的 CVE。
HIGHAnthropic 发布 Claude 安全，用于 AI 驱动的漏洞防御
Anthropic 发布了 Claude 安全，一套防御性 AI 工具，用以对抗像 Mythos 这样的自主漏洞工具，它们能在几分钟内武器化零日漏洞。目标是企业 SOC。
HIGHAI 浏览器扩展通过提示注入窃取电子邮件、密码
Unit 42 发现 30+ 恶意 AI 浏览器扩展通过提示注入和 DOM 抓取外泄电子邮件内容、凭据和 API 密钥。影响 Chrome、Edge 用户。
HIGHBluekit 钓鱼服务提供AI助手，40个模板
一个名为Bluekit的新型钓鱼即服务平台提供超过40个针对银行、社交媒体和电子邮件提供商的模板，以及一个用于起草诱饵的AI助手。
HIGH零窗口时代：后神话漏洞利用的NDR剧本
Claude Mythos 和 Project Glasswing 将漏洞窗口缩小到接近零。The Hacker News 详细说明了在打补丁之前如何使用NDR剧本来遏制AI驱动的攻击。
CRITICALLiteLLM CVE-2026-42208 预认证SQL注入漏洞被利用于攻击
攻击者利用LiteLLM LLM网关中的CVE-2026-42208关键预认证SQL注入漏洞，窃取API密钥和模型数据。CVSS 9.8。目前尚无补丁。
HIGHBlueNoroff 伪造 Zoom 通话以引诱加密高管
BlueNoroff 使用被盗视频、AI 头像和伪造的 Zoom 邀请，将加密高管变成攻击诱饵。
HIGHAI助手重塑企业安全优先事项
具有文件和服务访问权限的自主AI代理迫使组织重新思考身份控制、数据边界和监控 —— Krebs 报告关于攻击的转变…
HIGHMythos AI 比团队修补漏洞更快
Anthropic的 Claude Mythos Preview 自4月7日以来大规模识别漏洞，但研究人员警告说，组织缺乏分类和修补能力以跟上步伐。
MEDIUM谷歌：AI提示注入攻击上升，仍低复杂度
谷歌报告恶意AI提示注入攻击的增加，但大多数仍然低复杂度且无害。间接注入尝试针对集成了LLM的应用。
MEDIUMESET: 2026年3月网络威胁显示弹性差距
ESET的Tony Anscombe警告说，2026年3月的攻击——包括勒索软件、供应链妥协和AI驱动的网络钓鱼——揭示了组织中系统性的差距……
MEDIUMRecorded Future: 恶意基础设施随着AI驱动发展
Insikt Group的2025恶意基础设施报告追踪Cobalt Strike、Vidar信息窃取者以及AI驱动的托管策略的变化，以通知2026年防御者策略。
INFORMATIONALElastic Security 支持英国国防部防御网络 Marvel 2026 演习
Elastic Security Labs 为英国国防部的防御网络 Marvel 2026 演习部署了 AI 驱动的检测流程，处理了 1.2TB 的遥测数据，涉及 50 个模拟的...
HIGHAI 代理权限差距导致新的企业安全盲点
The Hacker News 报道 AI 代理创建了一个结构性安全缺口：委托的行动者缺乏持续的监督，使得横向移动和权限提升无需人类…
HIGHAI驱动的网络钓鱼激增，攻击者大规模个性化诱饵
企业报告称，在过去六个月中，AI生成的网络钓鱼活动急剧增加，这些活动大规模制作个性化诱饵，从广泛的撒网转向1对1的目标攻击。
Copperhelm 为 Agentic 云安全平台筹集700万美元
Copperhelm，一家由前 RSA 和 McAfee 工程师创立的以色列初创公司，为一个自主搜寻云的 agentic AI 平台筹集了700万美元的种子资金...
HIGHLMDeploy SSRF 漏洞 CVE-2026-33626 在披露后 13 小时被利用
CVE-2026-33626（CVSS 7.5）在 LMDeploy 中，一个开源的 LLM 工具包，被在野外利用，距离公开披露仅 13 小时，使得 SSRF 攻击能够访问敏感信息...
HIGH影子AI和SaaS扩大企业攻击面
被遗忘的集成、影子IT和未管理的SaaS代理创造了新的攻击向量。Dark Reading报告称攻击者利用这些漏洞，而无需复杂的AI。
MEDIUM美国誓言打击利用美国AI模型的中国公司
特朗普政府宣布政策，惩罚通过逆向工程或未经授权访问利用美国AI模型的中国公司，引用国家安全风险。
HIGH朝鲜黑客通过木马化软件窃取1200万美元加密货币
朝鲜黑客在2026年第一季度使用木马化的交易应用程序如CoinStats和TradingView AI Agent窃取了超过1200万美元的加密货币，以窃取恢复短语和…
HIGHPalo Alto Networks Zealot AI Agent 自动攻击云系统
Palo Alto Networks 研究人员构建了 Zealot，这是一个多代理 AI 渗透测试 PoC，它能够自动执行云上的侦察、利用和数据外泄...
HIGHAgentic AI Systems 引入新型企业安全风险
Recorded Future 警告称，现在被集成到企业软件中的自主 'agentic' AI 系统，为即时注入、数据投毒和…创造了新的攻击面。
CRITICALCohere AI Terrarium Sandbox 漏洞允许 Root 代码执行
CVE-2026-5752 (CVSS 9.3) 在 Cohere AI 的 Terrarium 沙箱中允许通过 JavaScript 原型链遍历执行 root 级别的代码和容器逃逸。
HIGH假冒TradingView AI代理网站投放浏览器劫持恶意软件
一个冒充TradingView AI代理的恶意网站部署了恶意软件，该软件赋予攻击者对受害者浏览器的完全控制权，使得账户盗窃和金融数据泄露成为可能…
BreachLock 被 Gartner 市场指南列为对抗性暴露验证代表厂商
BreachLock 在 Gartner 的 2026 市场指南中被命名为对抗性暴露验证的代表性厂商，这是一个专注于 AI 驱动的持续安全测试的类别。
HIGH假冒的 Google Antigravity 安装程序通过木马化的 AI 工具窃取账户
Malwarebytes 报告称，Google 的 Antigravity AI 工具的木马化安装程序在几分钟内窃取浏览器 cookies 和账户凭证，针对寻求泄露软件的用户。
HIGHNGate 恶意软件木马化 HandyPay 应用以窃取巴西NFC数据
根据 ESET 的说法，NGate 恶意软件使用 AI 生成的代码感染了合法的 HandyPay NFC 应用，从巴西超过 220,000 名 Android 用户那里窃取支付卡数据和 PIN 码。
HIGHNGate 恶意软件使用 AI 来躲避在木马化 NFC 应用中的检测
NGate 恶意软件版本 2.0，借助 AI 构建，隐藏在木马化的 NFC 支付应用中，从 Android 设备中窃取短信、联系人和加密钱包数据，同时躲避安全软件。
CRITICALSGLang 漏洞 CVE-2026-5760 通过 GGUF 文件启用远程代码执行
CVE-2026-5760，SGLang 推理引擎中的一个关键 9.8 CVSS 漏洞，允许攻击者通过上传恶意 GGUF 模型文件来执行任意代码，危及 AI/ML 服务部署。
HIGH朝鲜特工使用AI和假身份通过远程面试渗透公司
根据Flare研究，朝鲜特工正在使用AI工具和伪造文件通过远程工作面试。这种策略旨在将威胁行为者长期安置在目标公司内，进行间谍活动和网络访问。
HIGHVercel 泄露事件通过被入侵的 AI 工具暴露客户凭证
Vercel 确认了一起泄露事件，暴露了有限的客户凭证，攻击者通过第三方 AI 工具 Context.ai 入侵了一名员工的账户。云平台正在为受影响的用户重置密码和 API 令牌。
HIGHAI驱动的漏洞发现加速了漏洞利用时间线，加大了压力
Qualys警告称，像Claude Mythos这样的AI代理可以将漏洞发现时间从几个月缩短到几小时，压缩补丁窗口，并以大量新的CVEs压倒安全团队。
HIGH云安全联盟警告后Mythos的AI漏洞风暴
云安全联盟警告称Anthropic的Claude Mythos模型将引发一场'AI漏洞风暴'，迫使CISOs在18个月内管理代码缺陷和新颖利用技术的10倍激增。
HIGH佛罗里达调查ChatGPT在校园枪击威胁中的作用
佛罗里达执法部门正在调查一名学生如何使用ChatGPT制造校园枪击威胁，这是AI聊天机器人未能阻止危险内容的更广泛模式的一部分。
HIGHOpenClaw AI 代理通过包伪装构成自主威胁
Qualys ETM 检测到伪装成常规包的 OpenClaw AI 代理在 Windows 服务器上，通过关联端点、暴露和身份遥测来揭示一个活跃的、自主的威胁。
HIGHPushpaganda 诈骗劫持 Google Discover 与 AI 生成新闻
Pushpaganda 活动使用 AI 生成的新闻网站污染 Google Discover，推送 10,000+ 欺骗性文章以触发浏览器通知，向数百万用户传递恐吓软件和广告欺诈。
MEDIUM商业冒充欺诈随着AI驱动的购物诈骗演变
Recorded Future 详细说明了威胁行为者如何利用企业身份验证的漏洞，从兑现被盗支票转变为策划AI驱动的购物诈骗，冒充合法企业以窃取商品。
HIGHAnthropic 限制访问能够自动发现漏洞的 AI 模型
Anthropic 已将其 Claude Mythos Preview AI 限制在约 50 家关键基础设施供应商中，理由是其先进的能力可以自主地发现和利用软件漏洞，引发了关于双重用途风险和进攻性网络能力的担忧。
INFORMATIONALAxonius 扩展资产云平台，加入 AI 修复和 OT 安全
Axonius 更新了其 Asset Cloud 平台，增加了 AI 驱动的暴露修复，添加了 IoT/OT 资产管理，并引入了资产信任标准以量化安全姿态。
INFORMATIONALGitLab 18.11 扩展 Agentic AI 至安全修复和 CI 流水线
GitLab 18.11 将代理 AI 集成到软件生命周期中，自动化安全修复生成和 CI/CD 流水线配置，旨在解决快速代码创建速度超过安全和交付的 'AI 悖论'。
INFORMATIONALAI SOC 工具因自动化分类而受到批评，并未减少分析师工作量
一项新的分析认为，大多数由 AI 驱动的安全运营中心工具仅仅加快了警报分类的速度，而没有减少分析师的基本工作量，未能实现真正的自动化承诺。
INFORMATIONALAnthropic 发布带有自动网络安全防护的 Claude Opus 4.7
Anthropic 发布 Claude Opus 4.7，这是一个前沿的 AI 模型，具有新的自动防护功能，旨在检测和阻止在长时间、无监督的代理工作流程中可能有害的网络安全任务。
INFORMATIONALOpenAI 扩大 GPT-5.4-Cyber 在防御安全任务中的使用
OpenAI 正在扩大其 GPT-5.4-Cyber 模型的使用范围，这是一个专门用于逆向工程和恶意软件分析的人工智能，紧随 Anthropic 的进攻型 'Mythos' 模型的公布之后。此举旨在降低合法安全研究的障碍。
HIGHPentera 报告警告 Agentic AI 架构中的关键安全漏洞
Pentera 的 2026 AI 安全和暴露报告发现，100% 的受访组织存在 AI 安全漏洞，其中 agentic AI 架构引入了诸如提示注入和通过确定性工作流的数据外泄等新风险。
HIGHATHR Vishing 平台使用 AI 代理自动化语音钓鱼
ATHR 网络犯罪平台使用 AI 生成的语音代理自动化语音钓鱼（vishing）攻击，以冒充受信任的实体并收集凭证，降低了大规模社会工程学活动的技术门槛。
HIGHClickFix 钓鱼活动伪装成 Claude AI 安装程序
一个钓鱼活动使用假冒的 Claude AI 安装程序诱饵和 'ClickFix' 社会工程学来欺骗用户授予远程访问权限，从而实现凭证盗窃和金融欺诈。
MEDIUMPushpaganda 活动利用 Google Discover 劫持浏览器通知
一个名为 Pushpaganda 的威胁行动正在滥用 Google Discover 和 AI 生成的点击诱饵来诱骗用户启用恶意浏览器通知，然后传递钓鱼和诈骗内容。
MEDIUM亚洲的数字供应链面临独特的安全挑战
根据一项新的分析，亚洲相互连接的数字生态系统、不同的监管体系和迅速的AI采用正在为区域和全球供应链创造独特而复杂的安全风险。
MEDIUMPushpaganda 活动使用 AI 生成的点击诱饵劫持浏览器通知
一个被称为 Pushpaganda 的活动使用 AI 生成的点击诱饵欺骗用户启用恶意浏览器通知，直接将持续的诈骗和假警报流送到桌面。
HIGHCSA 警告 AI 驱动的 'Mythos' 时代崩溃漏洞到利用时间线
云安全联盟警告称，像 Mythos 这样的 AI 模型正在极大地加速网络攻击，将漏洞发现与武器化利用之间的时间压缩到接近零。
MEDIUMAI聊天机器人作为政治顾问引发安全和透明度担忧
一位美国参议员使用AI聊天机器人进行政策咨询，突显了AI辅助治理中的新兴风险，包括数据隐私、模型完整性和问责差距。
HIGH假冒 Claude AI 网站通过 DLL 侧加载传递 PlugX RAT
一个冒充 Anthropic 的 Claude AI 的欺诈网站分发了一个自删除安装程序，该安装程序通过 DLL 侧加载部署了 PlugX 远程访问木马。
HIGHAI 浏览器扩展：企业网络中未被察觉的威胁向量
LayerX 的一份新报告强调了 AI 浏览器扩展带来的重大安全风险，这些扩展经常在企业网络中被忽视，可能与 APT 和 C2 相关，并影响 EDR 和 VPN 的安全性，需要关注相关的 IOC 和 CVE。
HIGH朝鲜Lazarus集团通过Axios供应链攻击入侵OpenAI
朝鲜的Lazarus集团通过Axios客户端库的供应链攻击入侵了OpenAI的内部系统，使用被盗的macOS代码签名证书来签名恶意软件。
HIGH假冒Claude AI网站通过木马化安装程序传递PlugX恶意软件
一场复杂的网络钓鱼活动使用假冒的Claude AI网站分发木马化的安装程序，部署远程访问木马PlugX以建立持久的后门访问。
MEDIUMOpenAI 移除 ChatGPT 学习模式，引发安全和透明度担忧
OpenAI 已从 ChatGPT 中移除了未记录的“学习模式”，该功能禁用了网络搜索和文件上传，突显了对静默功能变更和自动化工作流程潜在安全影响的担忧。
MEDIUMOrange Business 将 AI 集成到企业语音中，引发安全问题
Orange Business 正在将其企业语音平台嵌入生成性 AI，这一举措扩大了攻击面，并引入了新的数据安全和隐私风险。
HIGHAI驱动的威胁行为者入侵墨西哥政府，暴露公民数据
一个复杂的攻击者利用像Claude和ChatGPT这样的AI工具入侵了九个墨西哥政府机构，在为期数月的活动中窃取了数亿条公民记录。
HIGHGPT-5 发布：对企业防御者的安全影响
OpenAI的GPT-5提升了AI辅助网络攻击的门槛——大规模鱼叉式网络钓鱼、自动化漏洞利用生成以及深度伪造社交工程。以下是安全团队需要了解并采取的措施。
订阅更新
将最新的网络安全资讯直接发送到您的邮箱。