OpenAI推出隐私安全处理服务，与Anthropic展开竞争

随着AI模型能力的增强，模型被滥用的可能性也随之增加，要求建立安全护栏以防止此类滥用的呼声也越来越高。AI公司现在必须在尊重企业客户隐私与监控使用情况以发现潜在问题之间走钢丝。

OpenAI感觉到有机会超越其竞争对手Anthropic，刚刚宣布了一种以隐私为中心的安全监控方法。该公司正在向部分客户预览一项名为“Private Safety Processing”的新服务。

这是一个自动化系统，在监控潜在滥用行为的同时，不保留客户的任何数据。该系统显然与Anthropic最近宣布的数据保留政策背道而驰。该政策激怒了一些客户，它允许AI实验室在涉及“覆盖模型”时，将用户数据（包括所有会话及其中对话）保留30天。

这些模型包括所有Mythos级模型以及“具有类似能力的未来模型”，该公司表示。这项政策于7月宣布，旨在确保安全，允许实验室筛选和分析潜在的不当行为。然而，一些处理大量敏感数据且不希望AI实验室留存（或检查）这些数据的企业对此深感担忧。

与大多数其他AI公司一样，OpenAI已经通过遵守“零数据保留”（ZDR）政策为客户提供了相对程度的隐私。ZDR使用OpenAI API中的智能体来监控每个会话的滥用情况。通过这种方式，公司不会保留客户数据，但仍能扫描不良活动，无需人工干预。

值得注意的是，Anthropic在很大程度上也遵守ZDR——除了“覆盖模型”（如Fable）之外。OpenAI表示，Private Safety Processing是一项扩大ZDR范围的新技术。

它将其描述为一种长期安全监控形式，评估多个对话（而不仅仅是一个对话）的输入和输出。同样，监控由智能体执行，如果被触发，该智能体将捕获交互并在整个会话中分析它们，以寻找潜在的滥用迹象。

一位发言人告诉TechCrunch，这项新技术帮助OpenAI检测在多个会话中发生的AI恶意使用。不良行为者——假设有人试图为网络攻击设计恶意软件——可能会分散其请求以避免检测。

Private Safety Processing可以分析这些多个对话是否存在滥用迹象，而无需人工审查用户的对话。该公司表示，在系统被触发的情况下，它可能会向OpenAI发送一个“狭义信号”，警告特定类型的活动。

OpenAI表示，根据该信号，它可以决定是否“有必要执行”。发言人表示，如果有必要，OpenAI将联系客户以获取更多背景信息或与他们合作解决问题，客户可以自行决定是否与OpenAI共享数据。

相比之下，Anthropic指出，可以对客户数据进行人工审查，但只能“通过受控的访问路径”，涉及“一小群经批准的审查者”。该公司表示，每一次审查会话都“记录在防篡改日志中，审查者无法压制或修改”。

目前OpenAI和Anthropic之间的企业竞争非常紧张，两家公司都在寻找任何机会来获得对对方的优势。最近的一份报告显示，OpenAI第二季度的增长速度比Anthropic慢。据报道，Anthropic的年化收入运行率目前为650亿美元。

Anthropic投资者表示，该公司可能以2万亿美元的估值IPO，而OpenAI也在筹备IPO。