AI 见闻
精选· 重要性 4/5

Flock为警察打造强大AI工具,可识别司机并追踪车辆

Wired — AI··Dhruv Mehrotra, Dell Cameron·约 8 分钟阅读
中文导读

车辆监控巨头Flock Safety开发了一款名为OS Investigate的AI工具,可仅凭车辆移动模式识别司机并追踪车辆,引发隐私与法律担忧。

车辆监控巨头Flock Safety多年来一直向公众宣称,其技术“无法识别、辨认或追踪个人”。但据《连线》杂志获悉,该公司现已构建了一个兼具这两项功能的系统:一款供警方使用的人工智能工具,仅凭车辆的移动模式就能识别司机并追踪车辆。

该工具利用一个覆盖6000多个社区、记录司机行踪的摄像头网络,可根据车辆经过社区的频率来筛选潜在目击者,或通过车辆共同经过的摄像头来揭示司机的“同伙”。由于该系统还能访问警方案件档案、911调度日志和商业身份记录,这些车牌可被转化为姓名、家庭住址和亲属信息。

它甚至可以根据身体描述,在地图上划定的区域内搜索人员。该软件最初名为Nightshift,最近更名为OS Investigate,内置69条预写提示词,警官可选择、审查或编辑后提交给AI,也可自行输入提示词。

这些建议提示词存放在一个包含450多个文件的缓存中,《连线》在Flock自家网站上发现,其登录页面会将这些文件提供给任何加载它们的人。

代码描述了AI可调用的45种工具,使其能够访问车牌扫描和摄像头元数据、逮捕记录、案件档案、调度日志、弹道结果,以及包含社会安全号码、出生日期、电话号码、电子邮件地址、亲属和同伙的商业数据库。

Flock表示,正在与一小部分执法合作伙伴测试该产品,并称其仍在开发中,最终销售的功能可能有所不同。该工具问世之际,公司正面临两党政治压力、越来越多警官滥用其平台的记录,以及一波破坏浪潮——全国多城市的摄像头被锯断、镜头被涂漆。

隐私和法律专家表示,Flock的工具已引发严重的宪法担忧,因为它让警方能够广泛且通常无需授权地获取大量人员行踪记录。但《连线》审查的提示词更进一步,将原本用于查找已知车辆的工具,转变为根据司机驾驶地点和频率来对其产生怀疑的工具,无论他们是否因犯罪被通缉。

Flock的业务建立在一项简单交易之上:摄像头拍下过往车辆,将车牌转换为文本,并与警方寻找的车辆清单进行比对。不在清单上的车辆会被记录,但不会受到关注。OS Investigate的预载提示词描述了对这一安排的颠覆。

警官不再需要车牌、姓名或犯罪记录即可开始调查。他们只需提供地点、时间段和行为模式,系统便会设计成返回符合条件的人员。全部69条提示词以预设搜索菜单的形式提供给警官。选择一条会将其粘贴到聊天框中,警官可在提交前进行查看或编辑。

Flock预载的一条提示词写道:“根据[过去14天][每日时间段]内[社区]中最常出现的车辆,为我找到目击者。*(不包括白名单车辆)。”警官填写空白处并提交,输出结果是一份车牌列表,产品中的其他工具随后将其转换为姓名和家庭住址。

另一条提示词指示系统列出两年内因“任何罪行”被捕两次以上的人员(仅豁免毒品逮捕),然后绘制这些人的居住地,调取其住所的服务电话,并“对前3名个体进行背景调查”。该提示词从该地区所有有逮捕记录的人开始,最终以软件选出的三人的档案结束。

在Flock的术语中,“背景调查”是一项单命令的全面背景核查,从姓名和出生日期开始,返回部门记录和商业数据中的信息:车辆、先前作为嫌疑人的记录,以及第二屏幕上的亲属、电话号码和在线账户。

其中19条提示词描述的是寻找模式而非查询记录,14条提示词不需要车牌、姓名或描述。警官只需提供地点、时间窗口和行为。一组请求要求找出三天内访问过城市中三个或更多零售店、一周内访问过多个银行、或午夜至凌晨5点间访问过多个加油站的车辆。

这五条提示词均未指定目标或事件。这些搜索背后的工具带有过滤器,可剔除公交车、半挂卡车、工程车和拖车,因此送货司机访问五家商店会从列表中移除,而普通司机进行相同路线则会被保留。

相同类型的搜索也适用于城际出行:车辆离开一个城市前往另一个城市并在一周内返回、14天内重复往返、或依次经过三个区域。Flock未回应关于该产品的一系列问题,也未对我们报道中描述的功能提出异议。

相反,发言人Paris Lewbel在一份声明中将OS Investigate描述为与Flock车牌读取器技术不同的独立产品,旨在帮助调查人员利用其机构已可获取的信息。他表示,在更广泛发布之前,该工具的功能和工作流程可能发生重大变化。

在警方如何使用和滥用其摄像头的争议日益加剧之际,Flock长期坚持的立场是其技术记录的是车牌而非车牌背后的司机。其公共信任页面告诉客户,其技术是为特定的、基于案件的调查而构建,“并非用于监视人员”。

为《连线》审查该AI工具的专家表示,这些保证与他们在代码中的发现难以相符。“我认为大多数人以为车牌读取器是在检查车牌,看车辆是否被通缉。如果未被通缉,警察就会继续前进,”美国公民自由联盟言论、隐私与技术项目高级政策分析师Jay Stanley说。

“但我们越来越多地看到Flock积极部署AI。在某些方面,就像中国一样,能做的和正在做的之间几乎没有空间。”例如,一个示例仅凭一个车牌,就要求系统绘制该车及其“前3名同伙”的行程。

代码明确描述了排名机制:默认情况下,它统计目标车辆两分钟窗口内其他车牌在同一摄像头出现的频率,并在默认“置信阈值”0.75内报告任何在其旁边出现三次或以上的车辆。警官提供一辆车,软件最多可找出20辆。

“我不知道还能怎么说,但这听起来完全疯狂,”Noel Pichardo说。他曾在罗德岛州波塔基特市担任警官期间,通过试点项目了解Flock的技术,并为《连线》审查了这些提示词。“我不知道怎么会有人反对Flock确实在追踪人员的观点。

”2024年,Pichardo在罗德岛州立法者面前公开反对该技术,几周前他因在当地报纸上批评Flock和部门领导而被停职30天。几天后,州警察局长协会公开谴责了他。随后他面临调查和纪律处分,他认为这是报复性的,并在部门着手解雇他时辞职。

加州一家执法机构的侦探(因未获授权公开发言而要求匿名)认为OS Investigate是其部门会使用的工具。他说,Flock已为他们破获了许多车辆盗窃案,警官们多年来一直在使用类似技术。“我之前不知道这个AI产品,但这不会改变我的看法……”

原文出处
Flock Has a Powerful New AI Tool for Police. We Got Its Code

本文为机器翻译辅以 AI 润色,仅供参考。原始事实以原文为准。

相关阅读