弗洛克的支持者忽略了什么

弗洛克的支持者忽略了什么随着城市重新评估这项技术，值得追问的是，该公司的设计选择如何影响了解决犯罪与保护公民自由之间的权衡。本文最初发表于我们的每周AI通讯《算法》。若想第一时间在收件箱中收到此类文章，请在此注册。

以全美约12万个自动车牌读取器网络闻名的警务科技巨头Flock，上周四宣布对其平台进行若干调整。这些更新旨在防止警员将平台用于非法或不正当目的，包括跟踪骚扰。《华盛顿邮报》近期披露了50起警员滥用Flock及其竞争对手系统的案例，通常涉及跟踪和骚扰女性。

威斯康星州一名女性指控其前警官男友曾179次搜索她的车辆；另一名女性则遭到警察局长跟踪，却无处举报。Flock为此推出了一系列措施，旨在确保每次搜索都有正当理由，例如使用软件标记异常搜索，并要求搜索者输入刑事案件编号。

然而，这些变更存在重大漏洞。例如，警员可以输入虚假案件编号，正如他们曾为绕过Flock其他保障措施而撒谎一样。

这些政策同样未能回应公民自由与隐私团体更广泛的担忧，即Flock正将原本以打击犯罪为卖点的工具转变为大规模监控网络。这些批评引发了日益强烈的抵制，已有部分城市取消合同，部分州试图立法全面限制或禁止车牌读取器。

在此背景下，近期出现了若干为Flock辩护的论点：如果这些摄像头有助于破案，又有何妨？运气好时，它们或许能协助抓获绑匪；即便不能，也不过是拍下我的车，没人会费心查看。

暂且不论Flock系统在多大程度上真正解决或预防了犯罪这一悬而未决的问题，这些辩护都回避了一个更关键的问题：Flock选择构建的是何种犯罪打击系统？其网络之所以如此运作，源于一系列关于收集何种信息、谁可搜索、保留多久、共享范围多大的决策。

这些决策设定了安全与公民自由之间的交易条款。相信技术应在破案中发挥作用，并不意味着应盲目接受这些条款。例如，其新要求警员在Flock平台上搜索前输入案件编号，本意是确保搜索具有合法目的。

但Flock向《麻省理工科技评论》证实，其并不核实这些案件编号，因此警员只需输入虚假编号即可。可以设想另一种系统，要求案件编号与警局记录相匹配——这或许是更具侵入性的整合，但也是更强大的保障，并能留下更有用的审计线索。

再以Flock最常引用的用例——寻找被绑架或失踪人员为例。解决此类案件将极大受益于Flock的全国摄像头网络。但如果美国人希望警员仅为此目的接入该网络，我们完全可以如此设计：与活跃的安珀警报或类似紧急情况关联的搜索，或许可以访问周边城市更广泛的数据。

这样既能在紧急情况下保留网络价值，又无需公众接受大规模监控。最后，还有Flock收集多少数据以及保留多久的问题。Flock主要作为全国性网络运营：一个城市或州的警方可以搜索另一城市或州收集的数据，各机构可将数据保留数月甚至数年。

然而Flock自身表示，90%的搜索发生在事件发生后一周内。这暗示了另一种可能的交易：仅在数据对破案实际有用时，才尽可能广泛地保留和共享。

（该公司近期将建议保留时间改为七天，但实际上各机构可按需保留数据。）简而言之，Flock本可将其监控设计得更为狭窄。若真如此，部分批评者或许仍不会罢休。

美国公民自由联盟（ACLU）高级政策顾问查德·马洛半开玩笑地对我说，按他的标准，最可接受的Flock合同是“从未签署的合同”，并强调限制监控的最佳途径不是制定新的Flock指导方针，而是制定新的法律。

（Flock首席执行官加勒特·兰利则表示，他“可能永远与ACLU意见相左”。）而缩小技术范围将威胁Flock对警方的整个卖点。车牌读取器自20世纪90年代起便已存在，用于收费和罚单。

Flock的商业模式——以及近期80亿美元的估值——依赖于将其摄像头转化为一个收集海量数据的庞大网络，为警方提供一种现代化方式，不仅理解自身数据，也理解他人数据。Flock或许很快将被迫改变。

已有城市取消与该公司合同，部分转向竞争对手，另一些则在居民思考希望如何使用这项技术、并为警方制定新规则之际暂缓决策。

最终结果可能是，各社区自行决定如何利用技术解决犯罪，以及为此需接受多少监控。深度报道人工智能一家初创公司声称突破了制约LLM的瓶颈Subquadratic现已公布其新模型的更多细节，但部分人仍持怀疑态度。

一个根本性缺陷使LLM极易遭受攻击这使得欺骗它们做出不当行为变得轻而易举，例如告诉你如何破坏飞机导航系统。Anthropic发现了一个隐藏空间，Claude在其中思考概念一项新技术使该公司得以比以往更深入地探究LLM的奇异运作机制。

Claude Science是Anthropic最新的旗舰产品该公司正加大对AI用于科学的投入。保持联系获取来自《麻省理工科技评论》的最新资讯发现特别优惠、热门故事、即将举行的活动等。