AI数字分身虚拟人会有风险吗？

 

事情是多方面的，正当有些客户还在抱怨说真人数字分身虚拟人不太像真人的时候。又出现了部分客户担心虚拟人无论是形象、声音都太像真人了而担心被滥用的危害出现。

 

特别是最近出了一个新闻：“AI换脸新骗局，公司老板10分钟被AI骗走430万”，让人心生惶恐。这数字分身虚拟人到底安不安全？

 

首先，要说明的是，数字分身虚拟人是新出现的一项先进技术，诈骗分子的诈骗道具从街头行骗，到使用电话，使用视频行骗等，从不间断。所以大家要首先学会识别骗子的伎俩。

 

现在AI人工智能很火，我们问一问360智慧大脑：如何识别数字分身虚拟人的诈骗行为，看看他是怎么回答的？

 

 

这回答的方法还是很靠谱的吧？

新闻中那个受害者，其中被骗的一个重点是，没有核查对方的钱是否到账就自行提前转账给了对方。防范意识是不够的。

 

许多人同时会担心，我现在注册使用了微软小冰的数字分身虚拟人，是不是增加了被滥用的风险呢？

 

首先，如何你选择进入AI数字人领域，那么你是得选择一家技术先进，品牌可靠的技术服务商，如果你是在小冰科技的云端训练数字分身虚拟人的，作为微软投资10亿以上的大厂技术，资料的安全性是得到保证的。其次，你的虚拟人是在特定的场景中使用的，比如自媒体，电商平台；用途也是正当、合法的。这样你就大可放心。最后，虚拟人发布出来后，再二次提取人脸视频、声音特征后再去特定生成、合成使用，是非常容易被识别为假人的。也就是说，骗子公司用这些参数来“投喂”训练出来另一个你的数字分身是用不上这些素材的。而且数字分身训练的视觉、语音的采集数据都会被删除，不会后台保留。也有人会关心，训练后我上传到平台（如抖音、快手、视频号等）的数字人是否有可能被其他公司重复采集呢？答案是会，但试想一下，你真人拍的短视频，直播间直播时的数据不也同样被反复采集吗。如果要被滥用或特定使用的话，其实是一样的，而且更严重。所以，这已经不是一个简单的是否安全就能回答的了的问题了。

 

AI人工智能是新科技，生产力工具。正如周鸿祎谈GPT-5时谈到的，"不发展才是最大的不安全"。

 

菜刀有被用于行凶的风险，开车有出事故的风险，电脑有被病毒侵入的风险......