硅谷下一位IPO亿万富翁即将到来。非营利组织已为他们做好准备

十年前，瑞安·卡里尔（Ryan Carrier）是一位失败的对冲基金经理，眼睁睁地看着人工智能系统开始失控。Facebook的算法震撼了美国大选，微软聊天机器人表示大屠杀是“捏造的”，特斯拉的Autopilot杀死了第一位司机。

“没有治理、监督或问责制，”开利说。对他来说，等待着他的孩子们充满人工智能的未来看起来黯淡。当年，开利创立了ForHumanity，这是一家开发审计人工智能系统工具的非营利组织。但自2016年以来，它仅筹集了数十万美元，并且仍然是该行业的一个小参与者。

但这种情况可能很快就会改变，因为ForHumanity现在是世界各地众多试图控制人工智能、让动物走出笼子、消除贫困和疾病以及传播民主的非营利组织之一，这些组织渴望从人们普遍预计的数十年来最大规模的慈善浪潮中分得一杯羹。

两家价值近万亿美元的人工智能公司--ChatGPT开发商OpenAI和Claude创始人Anthropic预计将很快上市，使数百名现任和前任员工变得超级富有。其中一些人符合一种被称为有效利他主义的哲学，即鼓励尽早做出有影响力的捐赠。

Anthropic的七位创始人承诺捐赠80%的财富，该公司同意为其员工承诺捐赠的每一股股票就捐赠一到三股股票，具体取决于他们加入的时间和一定的限额。

一位科技业内人士的粗略估计表明，Anthropic可能于9月份进行的IPO，仅慈善捐赠每年就可能带来150亿美元的额外收入。这足以使美国的捐赠总额增加约2。每年5%--相当于增加四名世界上最大捐助者之一比尔·盖茨的捐款。

Anthropic拒绝就其员工拨出的捐赠总额以及可能受益的组织发表评论。所有这些钱都远未得到保证。IPO可能会被推迟或进展不佳，让员工紧紧抓住自己的财富。行业观察人士还担心，数量惊人的慈善选择和天生的善变可能会促使工人为自己保留比预期更多的钱。

但争夺潜在捐助者注意力的竞争已经非常激烈。去年为13名极端富裕科技和金融工作者的慈善捐赠提供咨询的顾问杰克·莱瓦尔（Jack Lewars）表示，他听说人工智能实验室的员工每周收到多达20封来自寻求捐款团体的未经请求的电子邮件。

《连线》采访了18家非营利组织，并联系了数十家非营利组织，询问他们如何为潜在的慈善意外之财做准备。他们中没有人承认发送过冷广告--莱瓦尔在他的新博客The Funding Anthropalypse中写道，这种策略“几乎没有机会奏效。

”

“相反，组织表示，他们正在加大招聘、培训、营销和自动化的使用力度，以吸引大量资金并迅速投入使用。一家教育非营利组织的一份招聘启事甚至特别呼吁在Anthropic建立关系作为优先事项。

“每个人都会追逐这些资金，”赠款组织Footero Institute的联合创始人克里斯汀·彼得森（Christine Peterson）说，该组织声称从Anthropic员工那里获得了资金。

“这将是一次疯狂的旅程。”内线与许多接受《连线》采访的非营利组织领导人一样，ForHumanity的Carrier表示，他更多地关注工作本身，而不是筹款。但他认识到这可能是一个转变的时刻，他已经开始想知道如何参加旧金山的IPO晚会。

“我只需要进入那个房间，”卡里尔说。非营利组织AI 4ALL的首席执行官Bo Young Lee表示，她正在参加更多的活动，开展更多的研究，并要求董事会成员，如AI科学家和企业家Fei-Fei Li，将她介绍给AI实验室的员工。

她的组织培训美国各地的年轻人如何开发自己的人工智能模型，目标是使科技劳动力多样化。李说，她正在制定“雄心勃勃的”筹款目标，因为她相信钱会来，虽然介绍会议还没有实现。

Buck Shlegeris是Redwood Research的首席执行官，Redwood Research是一家总部位于加利福尼亚州伯克利的非营利组织，是越来越多的追求广义人工智能安全的小型组织的一部分。

从他的角度来看，针对个人捐助者并不是最佳策略。雷德伍德从系数捐赠和生存与繁荣基金等捐赠团体获得了数百万美元，这些团体汇集了个人捐款并订阅有效的利他主义运动。施莱格里斯认为，新的资金将流向这些中间机构，然后继续流向雷德伍德和其他人。

他说，他希望加速培训员工成为管理者，并期望大笔资金将使团队能够成长并承担“疯狂昂贵的项目”，例如自动化安全研究和训练雷德伍德自己的模型。该非营利组织的总体目标是最大限度地降低人工智能可能以某种方式导致人类灭绝的风险，施莱格里斯表示，他担心这种情况“非常有可能”发生。

人工智能安全研究的一个子集集中在防止该技术被用于制造生物武器。风险投资家杰夫·拉尔斯顿（Geoff Ralston）最近帮助制定了一项行动计划，呼吁筹集2美元。未来五年投入50亿美元用于解决人工智能生物安全问题。

他计划向那些有望从IPO意外之财中受益的人募集捐款。“前沿实验室的工作人员比任何人都更了解人工智能造成的威胁载体，”拉尔斯顿说。

几位在有效的利他主义圈子中有影响力的赠款提供者正在通过帮助新的非营利组织提高管理和簿记来为捐赠浪潮做准备。目标是确保更多组织准备好使用预期的捐款。动物慈善评估机构执行董事斯蒂恩·范德普洛格（Stien van der Ploeg）表示：“我们正试图在船抵达之前建造港口。

”该机构在过去的一年中帮助向非营利组织提供了约1500万美元，试图减少他们认为最恶劣的农场虐待行为。同样，Coefficient正在努力支持后起之秀。

本月，Facebook最大的捐助者、Facebook联合创始人达斯汀·莫斯科维茨（Dustin Moskovitz）和他的妻子卡里·金枪鱼（Cari Tuna）向全球卫生项目承诺了10亿美元。

Coefficient表示，这是一次“一次性激增”，规模比最初计划大近六倍，但其目的是创造“可扩展的机会”，可以“有效地吸收更多的未来捐赠”。另一个深受有效利他主义者欢迎的组织GiveDirect表示，它从捐助者那里分散筹集了一轮资金，以支持其为捐赠浪潮做好准备。

这家非营利组织向贫困或危机中的人们无条件转移现金，并利用这笔钱聘请更多工程师来实现其财务和人力资源系统的自动化。它还在建立合作伙伴关系，以在自然灾害期间更快地部署资金，并已开始制定“全球人工智能财富红利”计划，为极端贫困人口提供资金。

GiveDirect首席执行官尼克·阿勒代斯（Nick Allardice）表示，尽管IPO“存在不确定性”，但这是“值得非常认真对待的时刻”。

”更加谨慎一些组织担心他们会被抛在后面，因为他们被排除在旧金山人工智能社区之外，或者致力于儿童安全或政治虚假信息等问题，而这些问题可能与潜在捐助者的假设优先事项不重叠。一个广泛的担忧是，巨额资金可能会让某些事业陷入过剩的金库，而其他紧迫问题可能会吸引很少的资金。

例如，人们普遍预测，解决人工智能对人类构成的生存风险的团体--有效的利他主义者的优先事项--将得到比那些试图通过打击大规模监视或其他方式改善人权的团体更多的支持。