ITCOW牛新网 5月22日消息，在本届 Google I/O 开发者大会上，谷歌推出了一款全新数字工具——SynthID Detector，旨在遏制日益泛滥的 AI 生成内容和深度伪造带来的风险。该工具可通过识别嵌入在多媒体文件中的隐形数字水印，判断内容是否由人工智能生成。
谷歌在博文中指出，从 2019 年至 2024 年，网络上深度伪造视频数量飙升了 550%，与此同时，各大社交平台上的 AI 合成内容也呈爆发式增长。针对这一趋势，SynthID Detector 的推出可视为技术领域对抗虚假内容传播的重要一步。
目前，SynthID Detector 已开放给部分早期用户，包括新闻记者、学术研究人员和开发者。用户可通过加入候补名单申请试用。该工具支持对图像、音频、视频和文本进行检测，并能标出水印可能嵌入的具体区域。例如，在音频中能精确定位带有水印的时间片段；在图像中可高亮显示隐藏信息所在的部分。谷歌强调，即使内容经过压缩、裁剪或格式转换，SynthID 仍具有极高的识别准确率。
据 ITCOW牛新网了解，谷歌计划将这一检测能力逐步整合至自家的 AI 内容创作工具中，包括视频生成平台 Veo 3、图像生成系统 Imagen 4，以及音乐创作工具 Lyria 2。同时，谷歌也将与英伟达携手，将此类水印技术应用于后者的 Cosmos 模型，并联合安全公司 GetReal Security 等第三方机构进行水印验证与合规性测试。
不过谷歌也坦言，SynthID 并非绝对可靠。在面临极端编辑或复杂文本篡改的情况下，该工具仍存在识别盲区。