GPT应用

AI数字分身虚拟人会有风险吗?

2023-05-23 11:34:24
AI数字分身虚拟人会有风险吗?
 
事情是多方面的,正当有些客户还在抱怨说真人数字分身虚拟人不太像真人的时候。又出现了部分客户担心虚拟人无论是形象、声音都太像真人了而担心被滥用的危害出现。
 
特别是最近出了一个新闻:“AI换脸新骗局,公司老板10分钟被AI骗走430万”,让人心生惶恐。这数字分身虚拟人到底安不安全?
 
首先,要说明的是,数字分身虚拟人是新出现的一项先进技术,诈骗分子的诈骗道具从街头行骗,到使用电话,使用视频行骗等,从不间断。所以大家要首先学会识别骗子的伎俩。
 
现在AI人工智能很火,我们问一问360智慧大脑:如何识别数字分身虚拟人的诈骗行为,看看他是怎么回答的?
 
 
这回答的方法还是很靠谱的吧?
新闻中那个受害者,其中被骗的一个重点是,没有核查对方的钱是否到账就自行提前转账给了对方。防范意识是不够的。
 
许多人同时会担心,我现在注册使用了微软小冰的数字分身虚拟人,是不是增加了被滥用的风险呢?
 
首先,如何你选择进入AI数字人领域,那么你是得选择一家技术先进,品牌可靠的技术服务商,如果你是在小冰科技的云端训练数字分身虚拟人的,作为微软投资10亿以上的大厂技术,资料的安全性是得到保证的。其次,你的虚拟人是在特定的场景中使用的,比如自媒体,电商平台;用途也是正当、合法的。这样你就大可放心。最后,虚拟人发布出来后,再二次提取人脸视频、声音特征后再去特定生成、合成使用,是非常容易被识别为假人的。也就是说,骗子公司用这些参数来“投喂”训练出来另一个你的数字分身是用不上这些素材的。而且数字分身训练的视觉、语音的采集数据都会被删除,不会后台保留。也有人会关心,训练后我上传到平台(如抖音、快手、视频号等)的数字人是否有可能被其他公司重复采集呢?答案是会,但试想一下,你真人拍的短视频,直播间直播时的数据不也同样被反复采集吗。如果要被滥用或特定使用的话,其实是一样的,而且更严重。所以,这已经不是一个简单的是否安全就能回答的了的问题了。
 
AI人工智能是新科技,生产力工具。正如周鸿祎谈GPT-5时谈到的,"不发展才是最大的不安全"。
 
菜刀有被用于行凶的风险,开车有出事故的风险,电脑有被病毒侵入的风险......