郭德纲飙英文说相声赵本山用流利的英文演小品

郭德纲用英语说相声，赵本山用流利的英语表演小品，外国歌手泰勒·斯威夫特用地道的中文接受采访……近日，众多国内外明星通过AI变声的视频出现在网上。互联网。 此次爆炸事件再次引发公众对AI技术的热议。

无论是AI变声还是换脸，新技术的使用边界都亟待明确，其背后的侵权、欺诈等隐忧也不容忽视。

用外文混淆真假

“I have to care of this!（我必须照顾好这个！）”在一段播放量达百万次的短视频中，身穿绣花外套的相声演员郭德纲正在说着《济公》用英语。 记者发现，视频中的声音不仅与郭德纲本人的音色相同，而且口型与英语发音一一对应，让人难辨真伪。这精彩的站姿——搞笑节目引发网友惊呼：“如果不是看到视频平台上的小字‘该视频是采用AI技术合成的’，我差点就当真了！”

除了本土明星讲英语外，外国歌手泰勒·斯威夫特、女演员艾玛·沃特森等在脱口秀节目中用流利的中文讲的视频也吸引了网友观看。 截至发稿，多款AI变声视频在哔哩哔哩、微博、抖音等平台的观看量已突破百万。

奇安信集团行业安全研究中心主任裴志勇解释说，声音和图像都可以通过特定的数学变换分解为若干个特征向量，每个向量可以被分配一组特定的参数，从而形成特定的声音或图像。 。 所谓AI变声，就是利用机器学习的方法，以人过去的声音为样本进行学习，从而为声音的每个特征向量分配特定的参数，然后利用这组参数读出新的内容。 声音、语气甚至情绪都是可以模仿的。

不过，为了达到逼真的效果，据业内人士介绍，除了改变声音外，还需要真实翻译、部分篡改面部信息以匹配嘴型等多个步骤。

变声网站火爆背后存在争议

随着AI变声视频的巨大流量涌入，其背后的公司也浮出水面——2022年7月在海外上线的AI变声网站。从目前各大社交上流行的变声短视频附带的水印来看平台，其中许多是由该网站生成的。 在这个平台上，制作变声视频非常简单。 用户只需上传视频即可。 选择语言后，它可以自动翻译并调整语音颜色，生成匹配口型的外语视频。

目前，该网站推出了两个版本：免费版和付费版。 付费版本的最低费用为每月 24 美元，免费版本仅限生成 1 分钟的视频。 该网站的一位用户表示，高峰时期，有数万人排队。 数据显示，今年8月至9月，各大文盛图形AI网站的访问量开始呈现下降趋势，但访问量却增长了92%，访问量位居各大独立AI网站之首。

不过，和之前热门的AI应用秒芽相机一样，它也面临着争议和热度。 有律师指出，由于用户可以上传任何人的视频并改变其声音，这可能涉嫌侵犯版权、肖像权、声音权。 比如相声、小品等都是受中华人民共和国著作权法保护的作品。 如果未经版权人授权进行修改和传播，就会存在侵权问题。

加强治理，防范技术滥用

面对精密的AI生成技术，有网友指出，一旦利用相关技术进行网络诈骗，后果将不堪设想。 裴志勇分析，仅依靠AI技术不可能完成诈骗。 还必须与各种深入的网络诈骗套路相结合，才能成功实施诈骗。 在裴志勇看来，大多数传统反欺诈技术对于人工智能欺诈同样有效。 “比如，如果有人通过视频通话向你借钱，你只需回电确认即可。”

值得一提的是，国内外安全机构目前正在尝试开发识别AI换脸或AI变声的技术手段。 以清华大学人工智能研究院孵化器瑞来智能推出的.0技术为例，防止生成式人工智能的恶意滥用。 其相关技术可用于打击网络欺诈和名誉侵权、检测网络内容合规性、检测音频和视频证据的真实性等，可以控制和治理生成式人工智能技术的滥用。

记者还注意到，去年国家网信办等三部门联合发布的《互联网信息深度合成服务管理规定》明确提出，深度合成服务提供者应当采取技术措施，添加不符合标准的信息。影响使用其服务生成或编辑的信息内容。 用户使用的标识符。 不过，目前网上流传的一些AI换脸图片和AI变声视频并没有添加相应的标识。 （北京日报）