Meta推出新的AI工具来检测秘密导致儿童性虐待材料的广告

Meta周三宣布对33人采取行动。2026年上半年，Facebook和Instagram上有200万条儿童性剥削内容。与此同时，该公司正在推出新的人工智能工具，以寻找可能被用来秘密引导人们接触非法虐待儿童材料的广告和账户。

该公司表示，Meta所处理的内容中有超过97%是在用户报告之前被其系统发现的。在印度，Meta采取了行动5。同期有300万条儿童性剥削内容，超过98%是在用户举报之前被发现的。

Meta表示，其最新的人工智能工具针对的是使用看起来无害的广告向用户发送Meta平台之外的非法内容的人。该公司推出了一种新的大型语言模型（LLM）系统来检测所谓的“路标”。“这是指看起来正常但涉嫌将用户引导到非法内容或其他在线有害活动的广告。

Meta表示，最近看到不良行为者使用这种策略，因为他们不断改变方法以避免被发现。虽然广告本身可能不包含非法材料，但它们仍然可以作为托管儿童性虐待材料的网站的门户。因此，Meta表示，它现在正在关注广告向用户发送的信息，而不仅仅是广告包含的内容。

该公司可以使用这些信息来阻止违反其规则的网站或其他目的地，并对其背后的帐户采取行动。

Meta还使用额外的人工智能驱动扫描来查找早期系统可能错过的儿童剥削内容。该公司表示，随着更多地了解这些网络的运作方式，它将继续添加新的信号。另一个新工具是“红色团队人工智能代理”，用于测试Meta自己的安全措施。

它寻找不良行为者可能利用的弱点来绕过公司的保护。Meta表示，这可以帮助它在新的滥用方法变得更加普遍之前找到新的滥用方法。此外，该公司正在改进其系统，以查找在之前的帐户被删除后以新帐户返回其平台的人。

这些新措施出台之际，Meta继续面临其平台上儿童安全的压力。该公司因其社交媒体服务可能对年轻用户构成的风险而面临立法者的诉讼和批评。8月，Meta达成协议，支付高达180亿美元，以和解涉及29名美国人的儿童安全诉讼。

S.各州，解决有关在线儿童保护的担忧。Meta今年推出了几项儿童安全功能，包括Meta AI的家长控制，WhatsApp上的青少年账户，以及当孩子在Instagram上搜索自残内容时为家长提供提醒。

9月，WhatsApp为家长增加了更多控制。他们可以限制青少年使用频道的方式，控制谁可以查看他们的状态更新，并决定谁可以将他们的孩子添加到群组中。

家长还可以选择接收有关某些团体活动的通知。