OpenAI 移除 ChatGPT 学习模式，引发安全和透明度担忧

执行摘要

OpenAI 悄悄地从其 ChatGPT API 中移除了一个名为 Study Mode 的未记录功能，该功能允许用户禁用网络搜索和文件上传功能。当用户的自动化脚本开始失败时，用户发现了这一变化，而这一变化并未通过官方渠道传达。这一移除突显了依赖于未记录API行为进行安全关键功能（例如将AI处理与外部网络隔离）的组织面临的重大风险。该事件强调了在快速发展的AI即服务（AI-as-a-Service）领域中管理安全姿态的挑战，服务提供商可以在不发出警告的情况下更改功能。

技术分析

Study Mode 功能并不是 OpenAI 官方 API 规范中的一个记录参数。根据 Hacker News 上的用户报告，它可以通过在 ChatGPT 网页界面 URL 后附加 ?study=true 或在 API 请求中传递一个 study 参数来调用。其主要功能是停用模型执行网络搜索（Browse with Bing）和处理文件上传的能力，有效地创建了一个更受限的、类似离线的交互环境。 该功能的移除对于任何程序性依赖它的系统来说都是一个破坏性变更。从技术上讲，API 现在似乎忽略了 study 参数。对于利用此功能来防止数据外泄或限制 AI 访问潜在恶意网络内容的用户来说，安全边界已经被单方面解除。这一变更发生在服务端，不需要客户端更新，使得失败的检测依赖于监控 API 响应或工作流程输出。

入侵指标

目前未识别出任何入侵指标。

战术、技术与程序

这里观察到的核心技术是 T1589: 收集受害者身份信息，但从服务提供商的角度应用。作为平台提供商的 OpenAI，在采取行动之前收集了关于未记录功能使用情况的数据。T1562.001: 削弱防御 技术在比喻意义上相关；移除 Study Mode 削弱了用户围绕 API 构建的安全控制（网络隔离）。操作模式与 T1484: 域策略修改 一致，即云服务提供商修改直接影响租户安全策略的平台能力，而无需明确同意或通知。

威胁行为者背景

这不是恶意网络威胁行为者的行为，而是服务提供商 OpenAI 的政策和运营变更。威胁模型 从外部攻击者转变为第三方 AI 服务固有的供应链和依赖风险。将此未记录功能集成到其安全控制中的组织实际上授予了 OpenAI 远程且无需通知即可更改其安全配置的能力。行为者的动机似乎是平台简化或功能整合，但缺乏透明度造成了间接的安全影响。

缓解措施与建议

1. 避免使用未记录的功能： 对于任何安全关键功能，仅依赖官方记录和支持的 API 参数和服务保证。未记录的功能可能会在不发出通知的情况下更改。
2. 实施代理控制： 为了执行隔离，不要依赖 AI 提供商的内部标志。相反，通过一个受控代理路由 API 调用，该代理在网络层剥离对外部网络服务的出站请求，并阻止向 AI 服务上传文件。
3. 执行健壮的错误处理： 设计集成以安全地失败，并在 API 响应表明（如网络搜索）已意外启用时提醒管理员。
4. 要求透明度： 通过企业合同与 AI 服务提供商合作，要求提前通知破坏性变更或影响安全特性的变更，即使是非官方使用的。
5. 采取零信任方法： 将 AI 模型视为不可信处理器。对所有输入进行清理，验证所有输出。假设模型可能会尝试访问外部资源，除非您的基础设施物理阻止。