AI诈骗成功率100%?防深伪模型“用魔法打败魔法”
2023-05-26 11:22:01 来源: 光明网
日前,一条AI诈骗成功率接近100%#的话题冲上微博热搜。一个AI换脸的视频,让福建某科技公司的法人代表在10分钟内就被骗走了430万。
(资料图片)
国外也发生了一起AI相关诈骗,一封附上谷歌CEO视频的邮件,让不少YouTube博主们下载了带着危险病毒的文件。
这两起诈骗事件都有着深度伪造技术deepfake的身影。这是一项诞生了6年之久的换脸大法,如今AIGC技术的大爆发,更使得制作难以识别的deepfake视频越来越容易。对人脸识别应用普遍的金融行业来说,防深伪攻击也显得尤为重要。
在金融行业,由deepfake产生的欺诈主要是身份欺诈,即通过深度伪造的虚假图像和视频来冒充他人身份,骗过金融信贷流程中的身份核验系统,进而实施盗刷和恶意注册等。目前,金融行业应对deepfake已有了比较成熟的技术方法和方案,度小满在deepfake应对方法上就积累了丰富的经验。
度小满介绍,近年来利用深伪技术绕过人脸识别流程的趋势有所增长,对金融机构实名认证系统造成了一定的威胁。而要识别认证内容是否造假,最好的办法是交给AI去解决,研发“反deepfake”检测算法。据了解,度小满防深伪检测模型的算法策略就从三个维度入手,有效破解造假视频。
首先是生成瑕疵。具体而言,由于相关训练数据的缺失,deepfake模型可能无法正确渲染部分人类面部特征,小到眨眼频率不正常,大到口型与声音不吻合等。检测模型则能将这些“基本肉眼可见”的特征都提取出来,设计特定的分析算子,从而进行分析研判。
其次是固有属性。由于不同摄像机拥有不同的设备指纹,类似GAN这种模型在生成人脸时也会留下独特的用于识别生成器的指纹,因此经过对比就能发现端倪。
第三个细节是高层语义。它指的是检测面部动作单元(肌肉群)协调性、面部各区域朝向一致性、视频微观连续性等方面的问题,由于这些细节建模困难、难以复制,很容易抓到把柄。
当然,由于单一特征难以适应复杂的deepfake内容,因此检测模型的整体框架采用的是多特征融合,以此来保证决策的鲁棒性。
在数据样本优势之外,度小满还融入了自己的独创点,包括神经网络搜索调优算法、微表情分析和图卷积(GCN)技术以及基于重建的自监督预训练方法,让模型实现了从“鉴伪”到“鉴真”的转变。
也正因此,去年9月度小满防深伪检测模型顺利通过了信通院人脸识别安全专项评测,获得活体检测安全防护能力优秀级认证。具体效果上,它可以覆盖各种深伪形式,包含静态人像图片活化、AI换脸、人脸虚假合成等,达到千分之一误报率下召回90%以上,也就是99%+的准确率。
随着新的deepfake工具不断涌现,金融行业要应对的深伪攻击会更多。度小满认为,未来更多的鉴伪技术应该集中去挖掘语义特征、跨模态特征等,让模型利用可解释性强的高层语义去鉴伪。(柯岩)
标签:
为您推荐
精彩放送
热门文章
-
销售费用猛增、八成靠贴牌外采,上海贵酒胜算几何?
-
马上消费跻身“2013未来银行科技服务商”前十|环球新视野
-
泰康保险集团助力社区居家养老创新发展
-
多家医药流通公司增收不增利,上海医药继续领先|财报看点
-
焦点消息!违规被警告后,粤财信托启动24亿增资
-
金科破局之道:债务重整及控股股东增持-今日要闻
-
天下车智|二代营销管理层不足一年被换下 岚图汽车“断臂求生”?
-
广发银行高管接连被查 去年净利五年内首次下滑-每日信息
-
全球球精选!机构不看好?逾70只基金遭遇大额赎回,净值最高暴涨64%
-
百瑞信托2022年年报: 营收净利双失利
-
天下车智|广汽三菱:一代传奇将谢幕 动态
-
天天即时:出人意料,今年以来债券基金脱颖而出
精彩图片
-
AI诈骗成功率100%?防深伪模型“用魔法打败魔法”
-
【世界独家】2023中关村论坛开幕式发布十项重大科技成果
-
中国科协解读“国际科技会议议题设置指南” 环球热门
-
当前时讯:在发展中治理完善人工智能大模型
-
微盟尹世明:AIGC大模型供需两端存在“五大隔阂”
-
微盟布局“SaaS+AI”助力商户智慧经营
-
科创科普深度融合 上海浦东新增10家科普基础设施单位 天天速递
-
每日看点!陕西加强种质资源保护 秦岭细鳞鲑入选十大特色水产种质资源
-
全球速递!承载人工智能——MR眼镜激发无穷想象
-
【世界新视野】2023年农业植物新品种保护十大典型案例发布
-
北京:推动高水平开放 打造协同新平台-环球快报
-
卫星导航与位置服务业产值超5000亿元
热文
-
文化和旅游部推出10条长江主题国家级旅游线路
-
全球微速讯:九部门:力争到2025年新增相关领域中小企业公共服务平台1000家以上
-
当前速递!酒泉市人民代表大会常务委员会任免名单
-
甘肃省第一期冷链物流研讨班在兰州开班
-
伸出关爱之手 助力学子圆梦——全省结对关爱行动困难学生资助政策解读|当前通讯
-
开门见山的作用有哪几种_开门见山的作用
-
当前时讯:在发展中治理完善人工智能大模型
-
广汇能源:公司在2023年5月10日召开的2022年年度股东大会审议通过《2022年度利润分配预案》之日起两个月内完成具体实施分派事宜 当前聚焦
-
英媒:英国超八成河湖含有毒“永久性化学品”
-
岸田训子没能平息“内阁照”风波,日网友:换其他人是不是就被开了?
-
北京轨道交通大兴机场线刷掌乘车服务上线-环球聚看点
-
法内政部:法国2022年每12分钟就有一名儿童失踪
-
就水资源利用问题 水利部约谈4个省级水行政主管部门_当前报道
-
播报:联合国秘书长向包括中国军人在内的维和牺牲人员授勋
-
当前热讯:雄安新区出台行动方案助力北京疏解企业跨省迁移
-
环球讯息:中国驻瑞典大使馆:请广大旅瑞侨胞谨防虚假恶意电话
-
今日热门!吉林:抢抓施工“黄金期”,积蓄发展新动能
-
浙江:织密立体网络 强化发展支撑
-
成交连降 北京二手房凉意加重
-
邵阳石油“一键送油”配送量破万吨-世界快播报
-
【天天速看料】银华惠增利货币市场基金恢复及暂停代销机构大额申购(含定期定额投资及转换转入)业务的公告
-
泰信基金管理有限公司关于旗下部分开放式基金在中国工商银行股份有限公司参加费率优惠活动的公告
-
诺安基金管理有限公司关于旗下部分基金增加财通证券为销售机构并开通定投、转换业务及参加基金费率优惠活动的公告-今日观点
-
平安基金管理有限公司关于旗下部分基金新增杭州银行股份有限公司为销售机构的公告
-
长城悦享增利债券型证券投资基金恢复大额申购、大额转换转入、大额定期定额投资公告_环球视点
-
环球快播:有哪些可以用手机做的兼职平台(有哪些可以用手机做的兼职?)
-
当前信息:5月25日基金净值:交银品质增长一年混合A最新净值0.933,跌1.49%
-
全球热议:企业质量管理制度有哪些内容_企业质量管理制度
-
环球短讯!2023年05月26日全国玉米价格行情走势汇总
-
2023年05月26日全国豆粕价格行情走势汇总 当前时讯
-
2023年05月26日全国土杂猪生猪价格行情涨跌表
-
2023年05月26日全国内三元生猪价格行情涨跌表 世界短讯
-
环球速递!2023年05月26日全国外三元生猪价格行情涨跌表
-
阿根廷想再扩大与中国货币互换额度,正推进续签与中国货币互换协议_快播报
-
【环球新要闻】乘火车2.5小时内可抵城市间禁设民航客运线,法短途航班禁令引争议
-
日本男子当街持枪与警察对峙,致包括警察在内3人死亡
-
环球新动态:15国记者在中国高铁上挑战“立硬币”
-
环球速递!快讯!马斯克的公司称已获美监管机构批准进行人类大脑植入物试验
-
【世界快播报】招商基金管理有限公司关于旗下基金投资关联方发行证券的公告
-
世界消息!关于国寿安保尊利增强回报债券型证券投资基金暂停大额申购、转换转入和定期定额投资业务的公告
-
招商基金管理有限公司关于旗下基金投资关联方发行证券的公告|全球播资讯
-
摩根卓越制造股票型证券投资基金招募说明书(更新) 全球观热点
-
关于国寿安保尊利增强回报债券型证券投资基金暂停大额申购、转换转入和定期定额投资业务的公告
-
每日聚焦:黑山乡开展危化品、燃气消防安全检查
-
车辆过户需要什么手续_有如下五个手续_当前时讯
-
英国伦敦一辆汽车撞上唐宁街大门铁栅|天天看点
-
上推特直播频掉线,吐豪言迅速被嘲讽,“年轻版特朗普”线上宣布参选_每日讯息
-
特朗普、德桑蒂斯、妮基·黑利……谁将为共和党出战拜登?-当前动态
-
吓坏美股!美国五角大楼爆炸图片疯传!造谣的竟是……
-
美防长称希望尽快开展对乌空军培训_世界即时看