OpenAI推出锁定模式防御提示注入攻击

OpenAI宣布了一项新功能，称该功能将提供额外的保护，免受即时注入攻击，即恶意聊天机器人指令隐藏在网页和其他内容源中。除其他外，锁定模式将禁用实时网络浏览（因此您只能访问缓存的内容）、从网络检索和显示图像（您仍然可以生成图像）、深度研究和代理模式。

该公司表示，即使打开了锁定模式，ChatGPT仍然可能容易受到提示注入的影响--例如，提示注入可能“出现在缓存的网络内容或上传的文件中，并且仍然可能影响响应的行为或准确性。”但目标是降低敏感数据在此过程中共享的可能性。

“封锁模式并不适合所有人，”OpenAI表示。“它专为处理敏感数据并希望更严格地保护免受与及时注入相关的数据泄露风险的个人和组织设计。”该公司表示，目前正在将锁定模式扩展到自助服务ChatGPT Business帐户以及符合条件的个人帐户。