微软必应联手STOPNIC:为受害者提供一键屏蔽工具

2024-09-06 网络安全 深度伪造 内容审核 微软
微软必应联手STOPNIC:为受害者提供一键屏蔽工具

近期,深度伪造技术被滥用于制作色情内容的问题备受关注。微软必应搜索宣布与一个名为STOPNIC的组织合作,旨在帮助受害者更便捷地从网络上移除涉及自身的色情图片,无论是真实偷拍还是AI换脸生成的。这项合作将技术手段与平台联动结合,试图为受害者提供一条新的救济途径。

合作的核心机制

我的理解是,这项合作的核心在于“数字指纹”技术。受害者需要先在网上找到相关的侵权图片,下载到本地。然后,通过特定工具为这张图片生成一个唯一的识别码,也就是哈希值。这个哈希值就像图片的“身份证”,提交给STOPNIC后,他们并不会存储图片本身,而是记录这个识别码。

STOPNIC如何运作

STOPNIC本身是一个专注于限制色情图片传播的组织。它的工作模式是平台联动:当受害者提交了某张图片的数字指纹后,STOPNIC会将其分享给其合作伙伴网络。这些合作平台在接收到这些指纹后,便能在自己的系统中识别并采取措施,比如从搜索结果中屏蔽或直接删除这些图片。微软在博客中透露,截至2024年8月底,已利用该数据库对必应搜索中的26.8万张图片采取了行动。

广泛的合作网络

这一机制能发挥作用,关键在于STOPNIC建立了广泛的合作伙伴网络。根据素材,其合作伙伴不仅包括微软必应,还覆盖了Facebook、Instagram、TikTok、Reddit、Pornhub等众多主流社交、内容和搜索平台。这意味着受害者通过STOPNIC提交一次信息,就有可能让侵权内容在多个平台上被同时处理,这比逐个平台举报要高效得多。

当前的局限与挑战

尽管这项合作提供了新工具,但挑战依然存在。首先,素材指出,STOPNIC目前仅允许18岁以上的用户使用,这使其无法直接帮助未成年人受害者群体。其次,打击这类内容的规模依然庞大,仅必应一个平台就处理了数十万张图片,而更大的搜索引擎谷歌并未加入此合作网络。这引发了关于行业协作是否充分的讨论。正如原文所提,“单靠用户举报无法有效扩大打击范围”。

结语

总体来看,微软必应与STOPNIC的合作,是将数字指纹技术与多平台内容审核相结合的一次实践。它为成年受害者提供了一条相对集中的投诉渠道,但面对海量的违规内容和复杂的网络生态,这仍是迈出的一步。要更有效地应对深度伪造等技术的滥用,恐怕还需要更全面的行业协作与持续的技术投入。