■一针见血 深度合成技术不能成为某些人的骗术

过去人们常说，有图有真相。现在，人们会说，有视频、音频为证。但是，小马飞刀告诉大家，很多时候，伪造的视频已经做到了肉眼无法分辨的程度，“换脸术”“变声术”早已不是什么新鲜事了。

为什么要和大家聊聊这个话题呢？先来看一则新闻：国家互联网信息办公室、工业和信息化部、公安部近日联合发布《互联网信息服务深度合成管理规定》，强调不得利用深度合成服务从事法律、行政法规禁止的活动，要求深度合成服务提供者落实信息安全主体责任，规定将于2023年1月10日起施行。

什么是深度合成技术？简单地说，就是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术，包括文本转语音、音乐生成、场景声编辑、人脸生成、人脸替换、图像增强等技术。深度合成技术最大的特点之一是“以假乱真”，其通过人工智能和大数据算法合成的虚拟数据具有极佳的视觉、听觉等效果，能够使人难辨真假。可以说，深度合成技术丰富了网络内容形式，进一步释放新技术新应用发展活力。当前，深度合成技术已经在音乐、影视、综合娱乐、社交等多个行业的场景中被实际推广应用。

但是，部分深度合成技术应用缺乏规范，对国家安全、社会稳定和公民合法权益带来风险挑战。特别是深度合成内容制作的技术门槛越来越低，普通人仅需少量的图像、视频、音频等样本数据，利用简便易用的合成工具，就能模糊真实和虚拟的边界，甚至利用深度合成技术制造虚假视频、虚假音频进行诬陷、诽谤、诈骗、勒索等违法行为。

面对深度合成这把双刃剑，如何规范深度合成技术应用，最大限度地趋利避害？小马飞刀以为，深度合成技术真正危险的是其对社会信任关系的严重破坏。信任关系的存在，对于任何个体、社群来说都是无比重要的。要知道，信任是自古以来人类社会存在的基础之一。此次发布的规定通过相关制度设计，科学精准地回应了深度合成服务应用发展对国家、社会及个人带来的风险挑战，为促进新技术新应用的规范发展提供了有益范例。尤其是规定中一系列具有针对性和实效性的要求，划出清晰红线，体现规制乱象的决心，有助于维护清朗的网络生态。

小马飞刀

责任编辑：王旭伟