谷歌DeepMind团队近日推出了一款名为SynthID的工具,旨在应对日益增长的AI生成图像问题。该工具可以在AI生成的图像中嵌入人眼不可见的水印,但可以用专门的人工智能检测工具检测出来,以区分真实和虚假的内容。该工具已在谷歌云平台上向部分客户开放。 SynthID的原理是在图像的像素中嵌入一个水印,但不会影响图像本身的质量和体验。该水印可以抵抗裁剪、缩放等常见的图片编辑操作,只有专门的AI检测工具才能识别出来。谷歌DeepMind的CEO Demis Hassabis表示,这种水印随着AI模型的改进,会变得更加隐蔽和强大。 SynthID工具会告诉用户图像是否为人工智能生成。Hassabis认为,SynthID是为了解决深度伪造等潜在危险的问题而开发的。在2024年美国和英国即将举行大选的背景下,建立AI图像识别系统是非常重要的。他还表示,SynthID的基本思想也可以应用于视频和文本等其他媒体。 目前,SynthID只能在谷歌云平台上使用,主要针对使用Vertex AI平台和Imagen图像生成器的客户。Hassabis希望通过真实场景的测试,让SynthID变得更好。然后,谷歌将把它用于更多地方,与更多合作伙伴分享,并提高公众的意识和教育。 除了谷歌之外,还有许多其他公司也在致力于建立AI保护和安全系统。例如,Meta、OpenAI等公司正在使用一种名为C2PA的协议,利用加密元数据来标记AI生成的内容。Hassabis说,SynthID可能成为一个互联网范围内的标准之一。但他也强调,这只是一个初步尝试,并不是解决深度伪造问题的万能药。他说,“在我们证明了技术基础部分有效之前,考虑扩展和社会讨论还为时过早。”