中国监管深度造假技术

中国将从今天(2023年1月11日)开始执行关于深度造假的严格新规定。

深度造假是指将混合的原始材料结合在一起产生的图像和视频合成的结果。它们允许用户将视频中的一个人的脸替换成另一个人的脸，或者将文字输入说话者的嘴里它们作为令人信服的现实传递的能力，有时超过了有效发现它们的工具的进步。

2022年3月，乌克兰总统弗拉基米尔·泽伦斯基(Volodymyr Zelensky)宣布乌克兰向俄罗斯投降的低质量深度伪造视频在社交媒体上出现，遭到了短暂的嘲笑，之后被删除。

由于其真实性，深度造假受到了质疑和激发虚假信息的恐惧遍布全球。

在2022年12月，中国国家互联网信息办公室(CAC)宣布，它已经敲定了一套规则监管“深度合成技术”，它被认定为“对国家安全和社会稳定构成威胁”。

新规定要求提供深度造假服务的企业获取用户的真实身份，并确保其人工智能算法不被滥用于非法活动，如实施欺诈、诈骗或传播虚假和有害信息。

他们还要求对深度造假内容进行适当标记，以避免公众产生“任何混淆”。

近年来，深度合成技术发展迅速。在满足用户需求、改善用户体验的同时，它也被一些不法分子用来制作、复制、发布、传播非法、不良信息，诽谤、损害他人声誉和荣誉，假冒他人。”

欧盟也有限制网上深度造假的规定，包括对那些没有制定政策来检测和删除虚假信息和机器人账户的公司处以罚款。2019年，谷歌取得了数千个人工智能操纵视频的库公开访问，希望研究人员可以利用这些材料开发工具，更好地检测欺骗性内容。

在过去几年里，中国一直在迅速监管被视为对该国社会和政治稳定构成潜在威胁的技术。

As a result:结果多家本土科技巨头被迫这么做交出他们算法的细节而电子游戏公司也不得不这么做对孩子们玩游戏的时间设定上限。

最明显的镇压例子之一发生在2020年，当时当局封锁了蚂蚁集团(Ant Group)上市几天前，其创始人马云(Jack Ma)批评了中国监管机构。

去年11月，E&T采访作者迈克尔·格罗索斯关于他的书不要相信任何人，他在书中指出，基于人工智能的深度造假已经从有趣的数字操作转向了更加险恶的东西。