潮新闻客户端 评论员 张萍

图片由AI生成。

用最新的人工智能技术深度合成一个名人音视频要多少钱？记者的实验告诉我们：粗糙一些的不要钱，精细一点的几十块钱。最近媒体记者调查发现，深度合成软件在网络上越来越容易获得，一些网络主播会开直播教网友如何使用，因此引发的侵权纠纷也原来越普遍。

深度伪造的危害，早有迹象。深度伪造是一种合成技术，利用深度学习来合成或操纵视频、音频、图片等，实现篡改、伪造和自动生成，产生高度逼真且难以甄别的效果。从制造虚假新闻到恶意伪造图像、视频和音频，人工智能“造假”正成为智能时代传播领域的新风险，对社会的稳定和公共秩序构成威胁。

当代码与算法成为人人都能挥洒的“颜料”，昔日需要好莱坞特效团队斥资打造的换脸魔术，如今别有用心者轻易就可以将人格权、肖像权、知识产权当作“颜料”，涂抹出以假乱真的“画皮”。当“AI马斯克”“AI靳东”“AI张文宏”被用来实施精准诈骗时，当“每20个‘80后’中就有1人去世”这种“AI幻觉”谣言广为流传时，深度伪造对法律监管和伦理规则的挑战，变得越来越迫在眉睫。谁也说不清，会不会有一天我们自己的脸，也出现在一则从未拍摄过的视频，说着完全陌生的台词。

应对之法，目前还很有限，最直接了当的就是肉眼“找茬”。比如AI生成的内容中，往往存在着一些现实中不存在的细节问题。比如AI不太会画手，图片的手部总有着不自然的痕迹，视频中的边界不是很清晰，画面可能有闪烁。尤其是成本较低的伪造，有破绽可察。对文字类AI谣言的识别，靠不了肉眼只能靠“心眼”。“80后死亡率5.2%”等于每20个80后就有一个去世，这样的结论显然有违常识。对反常的结论多问一句“可能吗”，可能就免于被骗了。

技术在进步，这些瑕疵破绽总会被完全攻克的，当深度伪造完全能以假乱真时，技术和法律的重要性就更加凸显。用技术对抗技术、用魔法打败魔法，是一场无法避免的持久博弈。2024年国家网络安全宣传周网络安全博览会上，5秒就能辨别是不是“AI换脸”的技术防火墙，已经出现了。一些科技公司也正在陆续推出其AI深度伪造检测工具，通过在内容被篡改时发送警报来帮助人们识别虚假图像和视频，从而守护用户的心智。

加快制定和完善针对深度伪造的法律法规至关重要。近年来，我国先后相继出台《互联网信息服务深度合成管理规定》及《生成式人工智能服务管理暂行办法》等法律法规，全国首例“AI生成声音人格权侵权案”也带来了一定警示性。但显然实际应用中，还需要进一步规范技术的开发与应用，明确技术滥用的法律责任，加大对违规行为的处罚力度，积极促进共同制定AI治理的全球规则。规范制定与技术发展的赛跑，就像用力跑在“雨点”前面，才能避免被“打湿”的下场。