Waymo效应:人工智能如何悄然降低研究协作性
Waymo效应:人工智能如何悄然降低研究协作性无摩擦技术如何教会我们更喜欢自己的公司-以及为什么研究领导者应该担心。在最近的一次旧金山之旅中,我做了现在每个来旧金山的游客都会做的事情:我召唤了一辆车,里面无人。
Waymo带着一台从未担心在哪里停车的机器般的安详自信抵达,我爬进后座,本能地瞥了一眼驾驶座打招呼,发现自己对着一把空椅子礼貌地点点头。方向盘自行转动。
我一生中花了相当一部分时间思考物理学中反直觉的方面,但这并没有帮助我摆脱看着方向盘自行移动的轻微存在眩晕--一个看不见的司机负责我的安全。我来旧金山的部分原因是与Macmillan Learning的首席执行官苏珊·温斯洛(Susan Winslow)共度时光。
我们是霍尔茨布林克集团的同事,我们聚集在一起是出于最人性化的专业原因:合作。坐在同一个房间里,就人工智能如何重塑我们各自的研究和教育角落进行笔记,并进行通过视频通话难以进行的思考。然而,在比较了我们在Waymo的体验后,我们发现我们在另一件事上完全达成了一致:骑行很棒。
作为两个自认内向的人,我们都觉得无人驾驶汽车是一个小绿洲。
没有义务进行对话。没有通过无线电进行无声谈判。一个没有负罪感的空间,可以独自思考自己的想法、完成电子邮件或在途中接听电话,而不会因为在陌生人面前拨打电话而感到尴尬。汽车安静、平稳,完全不要求。
我们花了更长的时间才说出我们失去的东西。两个跨越大陆互相交谈的人对这项技术感到暗自高兴,该技术的核心特征是你不必与任何人交谈。
验证Waymo效应让我尝试一个定义:Waymo效应是当一项技术消除了与另一个人打交道的摩擦时发生的情况,我们将这种消除视为纯粹的收益--因为摩擦的成本对我们来说总是可见的,而它的好处却不然。
对于任何读过吴彦宏关于“便利暴政”的人来说,这都是一个熟悉的举动--他的论点是,一旦存在无摩擦的选择,我们就会默认接受它,并悄悄地放弃摩擦对我们造成的任何影响,因为没有人宣传它有价值摆在首位。
阿尔伯特·博格曼(Albert Borgmann)对设备范式的相关想法更进一步:设备提供一种商品--温暖、信息、陪伴--同时隐藏了曾经为了获得它而必须进行的练习,这样我们就不再注意到这种练习已经消失了。
只有商品不断到达。
与出租车司机交谈的成本是显而易见的:礼貌的小小努力、对话轮盘赌、内向者在早上7点持续闲聊的负担。好处是分散的和延迟的:对于我们中的许多人来说,司机是我们不得不遇到的最后一个陌生人。最后一个来自我们泡沫之外的人--在职业上、政治上、社交上--我们与他进行了非选择的对话。
这是我们没有要求的最后一个可靠的观点来源。苏珊和我都不会设计一个没有这些对话的世界。我们只是很高兴选择退出这个。当然,这就是这些东西丢失的原因:永远不会因决定而丢失,总是因方便而丢失。一次一次舒适的骑行。
我应该明确的是,这不是一篇反Waymo的文章(这些游乐设施确实很棒,我会毫不犹豫地再次乘坐一辆--这才是重点)。这是一篇关于研究的文章。因为将驾驶员从汽车中剔除的逻辑现在也以同样的平静和更大的后果将合作者从研究过程中剔除。
无摩擦的同事大型语言模型是智力生活的Waymo。诚实地考虑一下这种比较,正如研究人员的经历一样。在教学承诺、资助截止日期和时区之间,偶尔会有合作者出现;法学硕士在周日凌晨2点开放,让我们不要假装不是这样--这是令人担忧的大量研究思考实际发生的时候。
合作者带着他们自己的议程、他们自己对问题的框架、他们自己的令人不安的信念来到这里,他们认为你的中心假设是错误的;法学硕士来到这里,除了对你有用之外,没有任何议程。合作者必须被说服;法学硕士必须被提示即可。
合作者会以您没有要求也没有想到的方式挑战您;法学硕士会按照您的要求严格地挑战您,而不是多一个学位。如果你要求它批评你的论点,它会很有能力地这样做。但它会批评你提出的论点。
它不会毫无疑问地告诉你,你正在解决错误的问题,一个竞争对手团体在2019年尝试过这个问题并放弃了它,或者你美丽的理论框架在接触到别人领域的混乱现实时崩溃了。换句话说,合作者的不便并不是合作中的错误;
这很大程度上是合作的问题。另一个思想的价值恰恰在于它拒绝成为你自己思想的延伸。除了挑战和偶然的发现之外,还有一些更根本的东西。研究不仅仅是将想法转化为论文的生产功能。这是一个实践社区--一个通过争论、学徒、会议酒吧对话、艰难的裁判报告的共同磨难来维持的社会结构。
这种织物正是根据我们现在正在设计的摩擦编织而成的。
每次从同事重定向到聊天机器人的对话都是一个悄然撤回的线程。单个线程不重要。布料确实如此。有一个词可以形容这种情况大规模进行时会发生什么,我建议我们使用它:去殖民化。激励陷阱如果这只是个人诱惑的问题,那么这将是一个自律和偶尔严厉社论的主题。
但事实并非如此。对于研究领导者、资助者和机构来说,一个令人不安的事实是,我们已经建立了一个激励体系,使去殖民化成为理性选择--而且我们正在忙着使其逐年变得更加理性。合作一直是昂贵的。它花费了旅行、日程安排以及建立信任的缓慢工作。
它代价是自我管理和妥协,以及作者与订单谈判中周期性的小心碎。“要么出版,要么灭亡”总是对这些费用征税,因为与合著者保持一致所花费的每一个小时都不是花在产生评估系统可读的输出上的一个小时。但现在有三股力量正在复合。
首先,资金压力。当预算紧缩时,首先受害的总是那些价值真实但无法衡量的项目:旅行、研讨会、休假、访问职位--这是偶然发现的整个实体基础设施。我们取消了走廊的资金,然后想知道走廊的谈话去了哪里。其次,速度崇拜。
我们的评估系统--无论我们的网站上装饰着什么DORA形状的声明--仍然奖励产出和产出速度。LLM承诺速度高于一切。他们低声说,文献评论可以在周五之前完成,草稿可以在周一之前发布。对于一个下一个职位取决于出版物列表长度的研究人员来说,这并不是一个容易忽视的耳语。
第三,也是最诱人的:法学硕士从不争论作者顺序。它没有自我管理,没有竞争的议程,没有竞争对手的功劳。在一个信用是生存货币的体系中,不要求分享信用的出色对话者不仅仅是方便。这是套利。关于研究的研究应该让我们在这里停下来。
我们从团队科学文献中知道,小团队
本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。