警惕深度合成技术被滥用

深度合成技术就像一柄双刃剑，在带来欢笑和温情的同时，也带来新的威胁。

《瞭望东方周刊》特约撰稿邓之湄编辑陈融雪

近期《梦华录》热播，剧迷追剧有了新玩法——只需上传自己的照片，相关系统即可自动“换脸”，生成剧迷本人穿越到剧中做主角的流畅视频。

这个实现“过把主角瘾”的技术叫深度合成。作为AI技术的新应用、新实践，深度合成早已在音乐、影视、综合娱乐和社交等多个行业场景中被推广应用。业内人士认为，未来随着自动数据生成、全身合成、3D塑型等技术的逐渐成型，一个新的人类生存场景将以深度合成技术为基石展开。

值得注意的是，当真假交融难辨，眼见不再为实，深度合成技术就像一柄双刃剑，在带来欢笑和温情的同时，也带来新的威胁。

变声又变脸

通过深度合成技术，不法分子可轻易伪造音频、视频，实现变声、变脸，进行新型诈骗。

年，山东省公安厅网络安全总队公布了几个利用深度合成技术实施诈骗的案例。某公司财务接到领导电话要求立刻给供应商转款两万元，并将转账信息以邮件形式发送到对方邮箱。由于电话中老板的口音十分逼真，公司财务毫不怀疑地在一小时内完成了转账。

安徽省合肥市警方在公安部“净网”专项行动中打掉的一个犯罪团伙，其作案手法更令人吃惊。在警方抓捕现场，几名犯罪嫌疑人利用电脑将一张张静态照片制作为人脸动态视频。模拟制作出来的动态人物不仅能点头、摇头，还可完成眨眼、张嘴、皱眉等表情动作。原来，该团伙是通过伪造他人人脸动态视频，为黑灰产业链提供注册手机卡等技术支撑。

在上述犯罪嫌疑人的电脑里，警方发现了大量公民人脸数据。“身份证正反面照片、手持身份证照片、自拍照等，被称为一套。”民警介绍，成套照片被称为“料”，出售照片的人被称为“料商”，这些“料”在网上已转手多次，而“料”的主人却毫不知情。犯罪嫌疑人马某交代，由于制作简单，一个视频价格仅为2至10元，“客户”往往是大批量购买。

在深度合成技术加持下，不法分子“阴招迭出”：有的假冒领导口音打电话，骗公司员工转款；有的“化身”知名演员，让中老年影迷沉迷上当；还有的将女明星头像嫁接在不雅视频上，在色情网站大量播放，牟取利益。

应用场景广泛

根据国家互联网信息办公室年1月28日公布的《互联网信息服务深度合成管理规定（征求意见稿）》，深度合成技术指的是：利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。

追溯起来，深度合成（DeepSynthesis）曾被称为Deepfake，即深度伪造。年，一位名叫“Deepfake”的用户在美国一网站上分享了篡改人脸的视频，将深度合成技术带到了大众面前。

最初，深度合成的目标人物主要是影音图像遍布互联网的公众人物，如明星、知名商界人士等，其伪造场景主要是公开讲话、搞笑视频等。为了吸引流量，境内外不少网站及UP主都对制作、发布“合成视频”热情高涨。

随着技术进步，深度合成在影视制作、广告营销、社交娱乐等领域应用不断丰富，包括AI合成主播、虚拟偶像、修复历史老照片等。与此同时，越来越多的企业机构利用深度合成技术提供面向公众的产品和服务：支持风格定制的特效视频制作软件；语音方向衍生出语音导航、有声读物等应用；文本合成在新闻报道、聊天问答等方面使用广泛。

年“元宇宙”概念的流行，为深度合成技术提供了更加宽广的应用场景。业内人士称，未来随着自动数据生成、全身合成、3D塑型等技术的逐渐成型，一个新的人类生存场景将以深度合成技术为基石展开。

清华大学人工智能研究院、国家工业信息安全发展研究中心等联合发布的《深度合成十大趋势报告（）》称，年以来，深度合成内容被大量创作和传播，

转载请注明：http://www.abuoumao.com/hykz/1003.html