通俗版
可以把一个人的脸换到另一个人身上,或者让某人“说”出他从没说过的话。拿来做影视特效是正常用途;拿来冒充别人诈骗、造谣、伪造不雅内容,就会造成严重伤害,也违法。
工程版
利用深度学习生成或篡改人脸、语音、视频等内容的技术及其产物,常见形式有换脸、表情操控、和全合成视频。我国《互联网信息服务深度合成管理规定》(2023 年 1 月 10 日施行)要求深度合成服务提供者对合成内容进行显著标识,并对使用者进行真实身份认证。检测技术与生成技术处于持续对抗中。
举个例子
视频通话里“老板”让财务紧急转账,画面和声音都像本人,事后才发现是深度伪造。遇到涉及转账的要求,要换个渠道核实。
容易搞混
深度伪造强调“冒充真实存在的人或事”;普通的、生成虚构画面,不一定是伪造。