每个人都在实时应对人工智能安全问题--甚至谷歌

最近，我有机会在洛杉矶的一场活动后台与Google Cloud首席运营官Francis de Souza坐下来。

在我们周围的喧嚣中，德苏扎以大学教授的冷静、有分寸的方式说话，为应对我们所经历的人工智能安全时刻的公司提供了有用的建议，并指出“会有一个过渡期，然后我认为我们会到达这个更好的地方。”当时他并没有谈论谷歌，但很明显，就连谷歌也在弄清楚事情。

德苏萨的核心信息是安全专业人士多年来一直试图让高管内化的一个信息，现在人工智能使其变得紧迫：安全不能成为事后的想法。“当公司踏上人工智能之旅时，他们需要采取平台方法，”他说。“安全性不是你以后就可以解决的事情，也不是你可以让员工自己去做的事情。

他特别警告“影子人工智能”--员工在没有组织监督的情况下接触消费者工具--并认为公司需要从一开始就要求其平台的安全性、治理和可操作性。“如果没有数据策略和安全策略，就没有人工智能策略。他们需要携手共进。

”值得注意的是：他并不是独自推销Google Cloud。当我发现他的建议听起来像谷歌广告时，他反驳了。

他说，谷歌致力于采取多云方法，他指出，那些认为自己在单一云上运营的公司几乎肯定不是。“即使他们选择单一云，他们也依赖于SaaS应用程序，但也有业务合作伙伴可能使用不同的云，”他说。“对于公司来说，拥有跨云、跨模型一致的安全姿态非常重要。

”他还指出，威胁形势已经发生了根本性的变化，旧的防御模式太慢了。他指出，从最初的入侵到切换到下一阶段攻击的平均时间已经从8小时下降到22秒，攻击面已经远远超出了传统的网络边界。“除了你平时的庄园，你现在还有模特。

你有用来训练模型的数据管道。你有代理，你有提示。所有这些都需要受到保护。”de Souza指出的一个威胁没有得到足够的关注：在公司内部系统中移动的代理可能会暴露出多年来没有人想到的被遗忘的数据存储库。

“许多组织都有旧的SharePoint服务器[和访问控制]，他们还没有真正更新，但这并不重要，因为没有人真正知道他们在哪里。但漫游您企业的代理将找到这些数据资产并公开其中的数据。”在他看来，答案是用机器速度满足机器速度。

他说：“我们现在看到一种人工智能原生的、完全代理的防御系统的出现，组织可以运行代理来推动他们的防御。”“现在，你可以让人类监督一个完全代理的防御，而不是让人类主导的防御，甚至是一个人类参与的防御。

他补充说，这已经成为一个领导问题，而不仅仅是一个技术问题。“这是一个董事会层面的问题，也是一个高管团队的问题。这不仅仅是安全团队的问题。”但尽管人工智能承担了更多的防御工作量，但有资格监督它的人员仍然短缺，而且人工智能本身引入的漏洞的成倍增长速度超出了安全团队解决的速度。

LinkedIn首席信息安全官Lea Kissner本周告诉《纽约时报》：“我们需要人们来应对漏洞末日。”她补充说，她预计该行业不会以任何可持续的长期方式了解人工智能安全至少在几年内。这让我们回到了平台提供商本身。

《纪事报》在过去几周发布了一系列报告，记录了一波Google Cloud开发人员因未经授权的API调用Gemini模型而受到五位数账单的打击--其中许多人从未使用过或故意启用过这些服务。

这些案例遵循了一个熟悉的模式：最初为Google地图部署的API密钥，根据Google自己的指示公开放置，在Google扩大其范围而没有明确披露这一变化后，已经悄悄地能够访问Gemini。

面试准备平台Prentus的首席执行官罗德·达南（Rod Danan）表示，在攻击者利用了他被泄露的API密钥后，他的账单在大约30分钟内达到了10，138美元。

悉尼开发人员Isuru Fonseka的账户也遭到了类似的攻击，尽管他相信自己的支出上限为250美元，但他醒来后却被收取了大约17，000澳元的费用。两人都不知道的是，谷歌的自动化系统根据帐户历史记录升级了计费级别，在未经明确同意的情况下将有效上限提高至高达10万美元。

在The Register发布其初始报告后，谷歌退还了这两笔费用。尽管如此，谷歌告诉The Register，它没有计划改变其自动分层升级政策，并表示它优先考虑防止服务中断，而不是执行用户声明的预算偏好。

与此同时，还有一个单独的问题：当开发人员试图关闭时会发生什么。《纪事报》本周报道了安全公司合气道的研究，发现即使是发现受损密钥并立即删除它的开发人员也可能不安全。根据合气道的调查结果，攻击者显然可以继续使用该密钥长达23分钟，因为谷歌的撤销会在其基础设施中逐渐传播。

合气道研究员约瑟夫·莱昂（Joseph Leon）告诉The Register，在该窗口期间，成功率是不可预测的--几分钟内，超过90%的请求仍然经过验证--攻击者可以利用这段时间从Gemini中提取文件和缓存的对话数据。

Leon还指出，谷歌自己的较新凭证格式似乎没有同样的问题：服务帐户API凭证在大约五秒内撤销，而Gemini的较新的以aq为开头的密钥格式大约需要一分钟。“两者都以谷歌规模运行，”他在合气道的相关论文中写道。

“两人都认为Google API密钥在技术上也可以解决这个问题。“简而言之，莱昂表示，23分钟的窗口不是工程限制，而是公司的优先事项。在阅读德苏萨的建议时值得考虑这一点，该建议很合理，应该非常认真地对待。

他没有错，但目前平台的处方与他们自己适应的速度之间存在差距，意识到这一点也很好。