【法治守护我心—— 《互联网信息服务深度合成管理规定》系列解读】
【资料图】
光明网记者李飞孔繁新
近年来，不少“AI换脸”、“魔幻变声”应用在网络上流行；图像修复让影视爱好者高清重温老电影；在电商直播、影视动画、文化传媒等日常生活场景中，虚拟数字人已经广泛应用……深度合成技术就是这么“神奇”。
作为人工智能领域的新兴“黑科技”，得益于人工智能技术的不断发展和开放，深度合成技术因其较低的应用门槛、较强的娱乐属性、丰富的应用场景而受到越来越多的关注。但利用非法盗取的音频、视频、照片，通过变声、变脸等技术伪装自己实施诈骗或侵犯他人肖像权、名誉权的事件也时有发生。
1月10日，深度综合服务治理专项部门规章《互联网信息服务深度合成管理规定》（以下简称《规定》）实施。网友普遍“点赞”，并表示支持其将形成的治理和规范效果。
真伪辨别难度背后的技术乱象越来越低。
辨别真假是深度合成技术的显着特征之一。 “深度合成服务广泛应用于互联网社交媒体，丰富了互联网信息内容生态，促进了互联网相关产业的发展。”中国科学院信息工程研究所所长孟丹认为，这项技术给人们的生活带来了便利和便利。在提供多样化体验的同时，也可能被恶意利用。虚假信息内容可能带来政策干扰、谣言传播、低俗内容肆意传播等影响国家安全和社会稳定的风险问题。
图片来源《中国教育报》
中国互联网络信息中心最新数据显示，截至2022年6月，我国网民规模达10.51亿，互联网普及率达74.4%。与此同时，以互联网、大数据、人工智能为代表的数字领域逐渐成为我国创新发展活跃、社会辐射广泛的新兴领域。随着各种商业产品的普及，深度合成信息内容也在互联网上涌现，越来越多的公众接触到了深度合成技术。
清华大学研究生院院长周杰认为，深度合成技术的使用门槛越来越低，呈现“平民化”趋势。普通人也可以使用简单方便的软件工具来创建合成内容。
“有多少中老年人被AI配音欺骗了？” “当着明星的面卖货”……正如有网友提到的，在互联网技术日益发达的时代，人们很少关心自己看到的图片、听到的声音、读到的东西。我收到的短信不能像往常一样完全信任。通过人工智能和大数据算法合成的虚拟数据，具有高度模拟的视觉、听觉等效果，让人难以辨别真假。
虚假信息一直是互联网治理的痛点和难点。深度合成技术的广泛应用，对虚假信息的治理提出了更高的要求。
既要正面面对技术风险，又要抓好源头整治。
如今，深度合成技术已展现出强大的能力，在各领域的加速应用已逐渐成为趋势。中国政法大学教授张凌瀚认为，以深度合成为代表的生成合成算法《规定》是算法安全治理体系细化的重要一步。一方面，深度合成是一项高度敏感的技术，与互联网信息内容的安全密切相关。另一方面，深度合成技术将成为虚拟现实与现实物理世界相结合的关键技术应用，未来发展空间巨大。
“在研发相关技术的同时，我们也要正视技术带来的风险，保证算法和数据的安全可靠，最大限度地趋利避害。”周杰说。
那么，算法和数据的积极引导从哪里入手呢？有网友建议，“如果平台得到安全管理，很大一部分deepfakes问题就会得到解决”。对此，中国信息通信研究院云计算与大数据研究所所长何宝红表示，《规定》围绕深度合成“技术支持者”和“服务提供者”建立了责任框架。其中，技术支持者应从源头深化技术治理，加强数据和技术管理，同时按照相关规定履行算法备案等手续。服务提供者要全面落实信息安全主体责任，加强对服务、用户、数据、技术、内容的管理措施，落实安全可控的技术保障措施。
“AI换脸、AI绘画等常见技术及其制作内容未来还能用吗？”有网友在社交平台上提问。中科院自动化研究所研究员陶建华介绍，《规定》从两个方面明确了深度合成内容标识管理的具体要求：一是添加不影响使用的标识，确保深度综合信息内容可识别、可追溯；二是对深度合成的、产生或者显着改变信息内容的信息内容，采用显着方式进行标注，保障公众的知情权。
如何管理“虚拟主播”？中国人民大学未来法治研究院执行院长张继宇提到，《规定》将“数字字符”纳入深度综合管理，是对持续发展中可能面临的风险的科学研判。深度合成技术及其应用。数字字符应用还涉及私权，可能会产生问题，因此需要合理规范。
科技发展必须兼具“创新”和“温暖”
正如不少网友在接触和使用过程中感受到的那样，深度合成技术有“两面性”。如何在保持快速发展的同时，依法合理有效地应用于各应用领域，最大程度服务用户需求，提升用户体验，确保“眼见为实”是人们深切关注和期待的的网友。
张凌瀚提到，深度合成技术代表了人工智能产业未来发展的重要方向，重新定义了虚拟化数字生活空间。
2021年“元宇宙”概念的流行，为深度合成技术提供了更广阔的应用场景，推动深度合成技术加速发展。 《规定》也回应了人工智能未来的发展方向。通过三维重建和数字模拟等技术来生成或编辑数字角色、虚拟场景、沉浸式现实场景，对于010-所规管的深度合成技术至关重要。 30000个类别。”张凌寒说道。
深度合成技术可以用来做好事，甚至可以给人们带来“情感安慰”。 2019年，我国一家人工智能实验室受一位身为母亲的网友委托，将已故的女儿合成“复制”到交互软件中，让女儿的“声音”在交互终端设备上重现。在父亲被诊断出癌症晚期后，美国记者詹姆斯·弗拉霍斯收集了父亲的录音、生活故事和记忆，并利用这些数据开发了一个拥有父亲“想法”和“记忆”的人工智能机器人。能够用父亲的语气和詹姆斯进行一番深思熟虑的聊天，这让詹姆斯感到非常高兴。
除了创新和温暖，业内人士坦言，深度合成内容行业的挑战将主要体现在深度合成保真度的快速提升，甚至难以辨别真假界限。最新的深度伪造技术具有很强的对抗性，自然会针对对抗性攻击的检测方法，从而导致检测方法失效。
对于算法的积极应用，《规定》已经给出了答案和方向。陶建华表示，《规定》明确了技术应用的底线，要求反映正确的社会价值观；要建立健全辟谣机制，及时采取相应措施辟谣。同时，鼓励深度合成服务相关行业自律，遵循公平、公开、透明、科学合理、诚信原则。
中国社会科学院哲学研究所科技哲学研究室主任、研究员段伟文也提出，深度综合技术涉及认知安全，要增强社会认知安全意识，改善认知安全。公众的数字素养。
来源：光明网
