当AI造假比现实生活更逼真时，你该怎么办？根据麻省理工学院(MIT)最近的一份报告，答案是用水印标记。但这足够吗？
越来越多的政府和相关机构正在推动识别虚假媒体的举措。滥用的潜力显而易见。在当今这个媒体为中心的世界里，人们如何分辨真伪？这个问题并不新鲜。那些记得1990年Photoshop首次问世时的摄影师，一定还记得用该工具修改作品时所引发的震惊和恐慌。
当然，任何能轻松去除皱纹的产品都不可能消失，但一段时间内，修图问题在全球范围内达到了顶峰，至今仍然存在。“Photoshop”现在已经成为一种常用动词。
AI只不过将这个问题提升到了一个新的潜在痛苦层面。不仅是图像，还有音频，甚至视频。更重要的是，这不仅仅是对局部进行修饰，而是创造出全新、完全不存在的人、地点和事件。那么，这一切该如何停止？
如何解决AI带来的问题？
当然，答案是问题不会停止，所以我们必须应对这个现状。好消息是，这一切已经开始了。YouTube最近要求所有AI创建的视频必须标明。所有上传者必须“披露看起来真实但实际上被修改或合成生成的内容。”
TikTok更进一步，实施了技术，自动标记所有上传到该平台的AI内容，即便创作者未能注明其为AI生成。
我们都清楚这些措施背后的推动力，尤其是在选举年。假新闻已经成为热门话题，整个局势若没有行业或立法的监管，可能会失控。这些内容平台的早期举措显然是为了应对立法呼声，但可能为时已晚。
问题在解决之前会变得更糟
新的AI工具正变得越来越受欢迎，大多数材料并非出于恶意目的创建。广告、时尚、产品营销，甚至新闻服务都在使用AI来增强媒体内容，通常以创新且有价值的方式进行。每个渠道都伴随着滥用的潜力。
对抗假内容最一致的举措来自内容溯源和真实性联盟(C2PA)，这是由位于华盛顿的非营利组织——联合开发基金会发起的项目，旨在解决基于AI的虚假信息和操控问题。其“内容凭证”计划包括Adobe、X、OpenAI、微软和《纽约时报》等主要参与者。
该举措是继去年拜登总统发布的一项行政命令之后推出的，旨在“通过建立检测AI生成内容和验证官方内容的标准和最佳实践，保护美国人免受AI欺诈和欺骗的影响。”
谷歌和Meta也分别推出了自己的解决方案，称为SynthID和StableSignature。至于这些尝试是否足够，还有待观察。
问题会自行解决吗？
事实是，世界上最好的水印技术或立法规定也无法阻止某些内容在网络上病毒式传播，尤其是当它足够吸引人时。而到了那个时候，媒体的来源只是问题的一小部分。
当报纸承认之前的报道有误时，谁会去读更正声明呢？但最终，可能唯一能够解决这个问题的，是公众逐渐培养出的“直觉”，能够判断出内容的真伪。
就像许多人能够通过荒谬的构图或不可能的主题来辨别显然经过Photoshop处理的图像一样，随着时间的推移，公众或许也能够逐渐识别出一段AI生成的媒体中那种微妙的“奇怪感”，无论其制作得多么逼真。
或者，正如某位聪明人曾经说的那样，或许我们应该假设所有媒体内容都是由AI伪造的，除非有确凿的证据表明是由人类制作的。