新型网络诈骗:10分钟被“好友”骗走430万元

人工智能欺诈有多现实？ 如何识别和预防人工智能欺诈？

互联网AI综合教学

从数字到语音，

人工智能欺诈有多现实？

在家午睡时，王欣（化名）突然接到母亲同事打来的微信语音电话，询问她在哪里，在做什么。 王欣还没反应过来，就听到电话里传来妈妈的声音，听上去有些焦急。 虽然王欣已经和妈妈约定了下午去看牙医，妈妈也知道她在做什么，但她还是接到了这样的电话，询问她的日程安排。

她妈妈告诉她，她接到一个电话，号码和王欣的手机号码一模一样。 电话接通后，电话那头传来“王欣”的声音，母亲听到了女儿的哭声。 电话那头的人告诉母亲，王欣被他们绑架了，并要求母亲立即转30万元给他们，否则就“散票”。 母亲吓坏了，立即打算给对方转账，却被旁边的同事阻止。 就这样，王欣从睡梦中醒来。

据王欣介绍，“这个人挺聪明的，一开始我想，你看不出来这不是我的电话号码吗？后来我一看，发现这个电话号码是我的手机号码。连我都看不出来。”不告诉它，出来”。 一模一样的电话号码对妈妈隐瞒了，而那个和王欣很像的声音让她更加确信，“我妈妈说，那是我的声音。” 她的母亲还提到，对方首先询问她周围有没有人，并让她去一个周围没有人的地方。 幸运的是，母亲通过微信语音电话及时确认王欣在家后才松了口气。

“一年前，为了申请留学签证，我需要提供30万元的存款证明，这是我的第一反应。” 王欣回忆，她和妈妈聊了大约30万元。 此外，王欣偶尔也会在朋友圈等社交媒体上发布自己的照片、视频和声音。 她身边有朋友喜欢在社交媒体上发布类似的内容。 她曾在社交媒体上冒充向周围的人要钱。 。

之后，妈妈又接到了类似的电话。 “现在我妈都不敢接我的电话了，如果是微信电话，她可能会接。”王欣说。

如何识别和预防人工智能欺诈？

涉及金融交易应多渠道核实

中国社会科学院大学互联网法研究中心执行主任刘晓春认为，涉及金融交易的风险场景应多渠道排查。 上海申伦律师事务所夏海龙律师表示，在人工智能诈骗中，获取受害人人脸、声音材料的方式有很多。 它们通常是从受害者在社交媒体上分享的照片和短视频中获得的。 直接获得它们确实很难。 识别视频或声音真实性的最佳方法是在接到可疑电话后直接与相关人员核实。

有专家表示，在使用互联网服务或者社交生活中，当被要求输入人脸等生物特征数据时，一定要检查对方采集的生物特征数据是否符合《数据安全法》和《数据安全法》的要求。个人信息保护法”。 是否合法、正当、必要？

近年来，国家出台了一系列防范人工智能诈骗的法规。 2022年11月，国家网信办、工业和信息化部、公安部发布的《互联网信息深度合成服务管理规定》明确，深度合成服务提供者应当落实主体责任。信息安全职责，建立健全用户注册、算法机制审查、科技道德审查、信息发布审查、数据安全、个人信息保护、反电信网络诈骗、应急处置等管理制度，具备安全保障和可控的技术保障措施。

今年8月起施行的《生成人工智能服务管理暂行办法》规定，提供者应当依法履行保护用户输入信息和使用记录的义务，不得收集不必要的个人信息。 ，或非法保留用户身份。 用户的输入信息和使用记录不得非法向他人提供。

对于提供深度综合服务的平台，夏海龙指出，如果个人用户实施侵权违法行为，提供相关服务的平台一般不需要承担责任，但应履行相关法律义务。 深度合成服务商和技术支持者提供具有生成或编辑人脸、声音等生物识别信息功能的模型、模板等工具的，必须自行或者委托专业机构依法进行安全评估。 提供产生合成人声、模仿声音等语音或者显着改变个人身份特征的编辑服务，可能导致公众混淆或者误解的，应当在所生成或者编辑的信息内容的合理位置和区域设置显着标志。提醒公众深入综合情况。 （超过）