AI 见闻
精选

克劳德是一个思考的空间|人择

Anthropic News··约 8 分钟阅读

克劳德是一个思考的空间广告的好地方很多。与克劳德的谈话不是其中之一。广告推动竞争,帮助人们发现新产品,并允许免费提供电子邮件和社交媒体等服务。我们开展了自己的广告活动,我们的人工智能模型反过来帮助了广告行业的许多客户。

但在与克劳德的对话中加入广告与我们希望克劳德成为的角色是不相容的:一个真正有帮助的工作和深入思考助理。我们希望克劳德明确地以用户的利益行事。所以我们做出了选择:克劳德将保持无广告。我们的用户不会在与Claude的对话旁边看到“赞助”链接;

Claude的回应也不会受到广告商的影响,也不会包括我们用户未要求的第三方产品植入。人工智能对话的本质当人们使用搜索引擎或社交媒体时,他们开始期待有机内容和赞助内容的混合。从噪音中过滤信号是交互的一部分。

与人工智能助手的对话有着意义的不同。该格式是开放式的;用户经常共享上下文并透露比搜索查询中更多的内容。这种开放性是与人工智能的对话有价值的一部分,但也是使它们容易受到其他数字产品所不受的影响的原因。

我们对与克劳德的对话的分析(以保持所有数据保密和匿名的方式进行)表明,相当一部分涉及敏感或深度私人的话题--您可能与值得信赖的顾问进行的对话类型。许多其他用途涉及复杂的软件工程任务、深入工作或思考困难问题。

广告在这些背景下的出现会让人感觉不协调--而且在许多情况下是不恰当的。关于人工智能模型对使用它们的人的影响,我们还有很多东西需要了解。早期研究表明,既有好处(例如人们找到无法在其他地方获得的支持),也有风险,包括模型可能强化弱势用户的有害信念。

在此阶段引入广告激励措施将增加另一个层面的复杂性。我们对模型如何将我们设定的目标转化为特定行为的理解仍在发展中;因此,基于广告的系统可能会产生不可预测的结果。激励结构真正提供帮助是克劳德宪法的核心原则之一,该文件描述了我们对克劳德性格的愿景,并指导我们如何训练该模型。

基于广告的商业模式将引入可能违背这一原则的激励措施。考虑一个具体的例子。一位用户提到他们睡眠困难。

没有广告激励的助理会根据对用户最有洞察力的因素来探索各种潜在原因--压力、环境、习惯等。广告支持的助理还有一个额外的考虑因素:对话是否提供了进行交易的机会。这些目标可能经常会实现--但并非总是如此。

而且,与搜索结果列表不同的是,影响模特反应的广告可能会让人很难判断给定的推荐是否带有商业动机。用户不应该事后猜测人工智能是否真正帮助他们,或者巧妙地将对话引导到可货币化的东西上。

即使广告不直接影响人工智能模型的反应,而是单独出现在聊天窗口中,也会损害我们希望克劳德成为的样子:一个清晰的思考和工作空间。此类广告还将引入优化预约的激励--人们使用Claude的时间长度以及他们返回的频率。

这些指标不一定与真正有帮助相符。最有用的人工智能交互可能是简短的交互,或者在不提示进一步对话的情况下解决用户请求的交互。我们认识到并非所有广告实施都是等效的。更透明或选择加入的方法(用户明确选择查看赞助内容)可能会避免上面概述的一些担忧。

但广告支持产品的历史表明,广告激励措施一旦推出,往往会随着时间的推移而扩大,因为它们融入到收入目标和产品开发中,模糊了曾经更加明确的界限。我们选择不将这些动态引入克劳德。我们的方法Anthropic专注于企业、开发人员,并帮助我们的用户蓬勃发展。

我们的业务模式很简单:我们通过企业合同和付费订阅产生收入,并将这些收入再投资于为用户改善Claude。这是一个权衡的选择,我们尊重其他人工智能公司可能会合理地得出不同的结论。

扩大克劳德的访问范围是我们公益使命的核心,我们希望在不向广告商出售用户的注意力或数据的情况下做到这一点。为此,我们为60多个国家的教育工作者提供了人工智能工具和培训,开始与多个政府合作开展国家人工智能教育试点,并以大幅折扣向非营利组织提供Claude服务。

我们继续投资于较小的型号,以便我们的免费产品仍然处于情报前沿,并且我们可能会考虑低成本的订阅层和有明确需求的区域定价。如果我们需要重新考虑这种方法,我们将对这样做的原因保持透明。配套商业人工智能将越来越多地与商业互动,我们期待以帮助用户的方式支持这一点。

我们对代理商务的潜力特别感兴趣,Claude代表用户处理端到端的购买或预订。我们将继续构建功能,使我们的用户能够在他们选择时查找、比较或购买产品、与企业建立联系等。我们还在探索更多方法,让Claude成为一个专注的空间,让您发挥最大的生产力。

用户已经可以连接他们工作中使用的第三方工具(例如Figma、Asana和Canva),并在Claude中直接与它们互动。随着时间的推移,我们希望引入更多有用的集成并扩展这个工具包。

所有第三方交互都将基于相同的总体设计原则:它们应该由用户发起(人工智能为他们工作),而不是广告商发起(人工智能至少部分为其他人工作)。如今,无论有人要求克劳德研究跑鞋、比较抵押贷款利率,还是在特殊场合推荐一家餐厅,克劳德唯一的动力就是给出有用的答案。

我们想保留它。值得信赖的思考工具我们希望我们的用户信任Claude,以帮助他们不断思考他们的工作、挑战和想法。我们使用互联网的经验使我们很容易认为,我们使用的产品上的广告是不可避免的。但打开笔记本,拿起制作精良的工具,或者站在干净的黑板前,看不到任何广告。

我们认为克劳德应该以同样的方式工作。相关内容Anthropic在H轮融资中筹集了650亿美元,投资后估值为965亿美元阅读更多介绍克劳德作品4。8升级到我们的Opus类模型,在编码、代理任务和专业工作方面具有更强的性能,以及处理长期运行工作的一致性。

阅读更多Anthropic开设米兰办事处,为意大利企业、研究和开发人员提供支持我们将在米兰开设一个新办事处,这是我们在欧洲的第六个办事处。阅读更多

原文出处
Claude is a space to think | Anthropic

本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。