瞭望 | 警惕!“AI换脸”诈骗出现涉政苗头 世界热门
2023-07-03 18:26:36 来源: 《瞭望》
近期,各地曝出多起人工智能“辅助”诈骗案件。一些不法分子利用人工智能“深度伪造”冒充领导干部行骗,值得引起高度警惕
一些领导干部由于工作原因出镜率相对较高,这为骗子提供了丰富的面部识别素材;在电视、广播新闻中也可以找到一些领导干部的大段同期声,这令“伪造成本”更低
(资料图片仅供参考)
随着人工智能技术的普及应用,不法分子实施诈骗的精准性、迷惑性、隐蔽性增强,公安、检察等政法机关办案将面临侦查破案难、电子证据调取难、认定处理难等现实困难
近日,北方某地警方发布了一起利用“AI换脸”对当事人实施诈骗的案件。诈骗分子运用人工智能技术,通过微信视频通话与受害人进行了十多分钟交流,受害人转账数百万元。
引人关注的是,该案不仅是一起新型网络诈骗,更是一起涉政诈骗案件。
不法分子模拟伪造的,是受害人认识的一名领导干部。在微信视频聊天中,“换脸”后的骗子提出,其朋友有一笔工程保证金需要借用受害人公司的对公账户走账。在视频画面中,骗子“换脸”后面部表情自然,声音逼真,受害人便放松了警惕,转账后打电话确认,才知道被骗。
“AI换脸”“AI拟声”、虚拟场景构建……随着设备性能提升和技术软件优化,利用“AI换脸”技术实施诈骗,已成为一种新型网络诈骗。近期,各地曝出多起人工智能“辅助”诈骗案件。一些不法分子利用人工智能“深度伪造”冒充领导干部行骗,值得引起高度警惕。
由于工作原因,一些领导干部的面部、声音等生物特征信息更易被获取,被人工智能学习利用后造成的潜在危害性也更大。接受《瞭望》新闻周刊采访的业内人士表示,社会各界都应提高识骗防骗意识,有关部门应依法加大对人工智能“辅助”诈骗案件的执法力度,严肃追究相关人员法律责任。
朱慧卿图/本刊
眼见不一定为实
近日,华北某地一名地方干部正为一件事犯愁。有人冒用他的名义,与他的亲朋好友大范围添加微信好友。
“和我的亲戚朋友加完好友后,骗子还给他们打了视频电话。通话时间只有几秒钟,朋友们感觉声音、画面都有点儿像。”这名干部说,直到许多朋友打电话询问具体情况,他才知道此事。
“估计下一步就要开始骗钱了。所以,最近几天我连续发了好几条朋友圈提醒大家。”这名干部说。
受访业内人士表示,只要有足够的图像、音频素材,不法分子就可以通过人工智能“换脸”软件、合成声音软件伪造虚拟形象,实施诈骗。“只需提取最少10个字、最多32个字,就可以合成其声音。”国网信息通信产业集团安全科研专家赵明明告诉记者。
一些领导干部由于工作原因出镜率相对较高,这为骗子提供了丰富的面部识别素材;在电视、广播新闻中也可以找到一些领导干部的大段同期声,这令“伪造成本”更低。
在一些案件中,不法分子通过“AI换脸”合成视频等方式,伪造与领导干部见面、合影等内容实施诈骗,增加了涉政类诈骗的欺骗性和危害性。
AI诈骗四大趋势
中国信息通信研究院相关负责人表示,当前,人工智能“辅助”诈骗存在四大趋势。随着人工智能技术的普及应用,不法分子实施诈骗的精准性、迷惑性、隐蔽性增强,公安、检察等政法机关办案将面临侦查破案难、电子证据调取难、认定处理难等现实困难。
——技术成本由高向低转变。腾讯安全玄武实验室负责人于旸告诉记者,随着技术发展,人工智能“深度伪造”“深度合成”已成为一种可以低成本实现的技术。
——技术应用由单一向多元转变。腾讯互联网安全专家杨建表示,实施人工智能“辅助”诈骗一般要满足多个要素,包括非法获取信息、构建熟人账号、“换脸换声”、破解手机摄像头权限等,涉及多项技术手段。
——伪造身份从模糊向具体转变。传统电信诈骗往往只能以“某派出所工作人员”“某网站客服”等模糊虚指人设实施。但在人工智能“辅助”诈骗中,骗子可以以具体的人物形象出现。
——作案模式从“广撒网”向精准施骗转变。社交媒体平台往往设有视频验证环节,这在客观上增加了冒充熟人、领导干部等诈骗的“可信度”。受访专家分析,随着技术发展,精准盗号、分析关系网等有指向性的网络诈骗案件占比可能有所上升。
多层面约束规范
奇安信安全专家裴智勇表示,目前,专业级别的人工智能“深度伪造”仍需通过较强的硬件在实验室环境实现。这意味着,近期“AI换脸”诈骗形成系统性风险的可能性不大,但仍需未雨绸缪、预防打击。
在源头端,需要进一步加强公民个人信息保护。杨建等专家建议,加强公民信息尤其是生物特征等隐私信息的技术、司法保护力度。针对冒充领导干部等涉政诈骗风险,可通过规范领导干部个人社交账号管理,普及提升账号安全意识等方式进行规避。
在技术层面,数字水印鉴伪等技术有待进一步普及利用。赵明明表示,数字水印能将特定的信息嵌入音频、图片或是视频等数字信号中,进行版权保护,以防止未经授权的复制和拷贝。他建议,加强打入数字水印、开发真伪鉴别等技术治理手段,使其为数字内容生产商以及用户端等提供广泛服务,以科技手段制约不法分子利用人工智能技术实施犯罪。
瑞莱智慧高级产品经理张旭东建议,对涉及政务、安防、金融、消费等重要应用的人脸识别技术漏洞进行完善和升级,防范不法分子通过后台劫持手机摄像头权限。
“尤其是涉众、涉密、涉及公共利益的相关平台和技术服务提供商,需优先完成技术加固,对手机模拟器做好防范。同时,鼓励和引导更多手机厂商在系统升级时支持3D人脸识别技术。”张旭东说。
从法律制度方面看,反电信网络诈骗法、刑法等法律为打击治理各类网络诈骗活动提供了法律支撑。赵明明建议,进一步完善人工智能等领域相关法律,通过案例等指引,建立人工智能侵权纠纷法律框架、诉讼程序和赔偿标准等。
此外,还需通过完善相关制度进一步落实平台责任。新华三集团安全专家曹亮表示,对核心领域使用人脸识别技术的产品,监管部门应建立分级别、多层次的国家安全标准及行业安全标准;压实平台、企业主体责任,督促相关应用开发企业履行源头审查责任;建立健全用户注册、算法机制机理审核、数据安全个人信息保护、反电信网络诈骗、应急处置等管理制度。(记者吴帅帅 刘懿德 兰天鸣 《瞭望》2023年第27期)
标签:
为您推荐
精彩放送
热门文章
-
环球时讯:突发爆雷!董事长被留置 卫宁健康市值半日蒸发46亿
-
基金“中考”放榜:市场行情极度分化,新能源和医药“两头挨打”
-
【环球热闻】天下车智|5月轿车销量榜:轩逸夺冠,宏光MINI EV沦陷
-
每日速递:“贵酒”商标纠纷重审宣判,上海贵酒困局何解
-
热点在线丨水滴保联合太平洋健康保险推出蓝海一生百万医疗险
-
观热点:近一年业绩同类第一 智能投资高手孙蒙:我这样训练“AI基金经理”
-
顺鑫农业大事件:终得剥离地产业务,多年已付出巨大代价-视讯
-
当前热讯:宁波银行首次发布“宁行云”品牌 七大核心产品助力客户数字化转型
-
因美而生,向善而行!逸仙电商ESG行动迈上新台阶
-
当前头条:天下车智评测|比亚迪宋PLUS DM-i冠军版将吹响反攻“号角”?
-
卷王极兔递交招股书,下一步将如何搅动快递业?
-
瑞丰银行增持两家银行股份,行长张向荣“同步”离职
精彩图片
-
瞭望 | 警惕!“AI换脸”诈骗出现涉政苗头 世界热门
-
战高温保供电 应对今夏用电高峰 世界热议
-
探秘微观世界“绿巨人” 我科学家研究获进展-最新资讯
-
无糖饮品配料表争相比短?天然代糖是未来趋势
-
看点:动车组驶上青藏线——青藏铁路西格段动车组投入运营首日见闻
-
再度开启高温模式——这一阵子北方为何热过南方|当前要闻
-
银河观赏渐入佳季,科普专家详解人类如何探秘银河
-
快消息!药品安全巩固提升行动启动
-
国内规模最大超高压跨江输变电工程建成投运
-
数智赋能三峡库区主干道|快播报
-
世界今亮点!叶麂、寿带等野生动物列入新“三有”名录 野猪等调出
-
2023全球数字经济大会 | 度小满许冬亮:金融大模型帮助中小机构跨越“数字鸿沟”
热文
-
提高产仔率!母猪的“性敏感带”,输精的时候你必须知道!
-
猪价“涨势反扑”,猪粮比值跌破5:1,官方有望重启猪肉收储? 环球观点
-
世界热消息:玉米走货有实质性的转好,玉米行情还能一直看好吗?
-
07月03日猪评:持续小幅上涨!月初出栏偏紧,猪价回温!
-
外交部:中国-非洲经贸博览会成果丰硕
-
全球讯息:法国骚乱强度减弱 仍有157人被捕 1名消防员丧生
-
【世界快播报】外交部:中国始终奉行防御性国防政策 坚定不移走和平发展道路
-
全球焦点!外交部回应中国旅行团在马赛遭袭:再次提醒在法中国公民谨慎外出
-
美国芝加哥遭遇罕见强降雨 局地雨量创纪录-环球要闻
-
中药材价格大规模暴涨 业内:主因是大量社会资本涌入|当前热讯
-
周生生黄金:复苏时节,逐浪而行
-
优化环境 提升服务——甘肃省文旅强省建设系列深度报道之保障篇
-
天天微头条丨监督哨 | “工作经费”入私囊
-
当前视点!走近大国工程丨探访世界第一高桥贵州花江峡谷大桥 跨越“地球裂缝” 挑战世界极限
-
时政微周刊丨总书记的一周(6月26日—7月2日)
-
2023岷县非遗宣传周·花儿艺术节开幕
-
环球今亮点!亚威股份:公司产品应用广泛,致力于为国内外高端客户提供软硬件一体化产品及服务
-
每日热闻!今年前五月我国交通重大工程项目加快建设
-
苹果电脑开不了机黑屏又好了_苹果电脑开不了机黑屏
-
陕西省凤县市场监督管理局发布关于6批次食品合格情况的通告(2023年第14期)
-
莞城:东纵路内涝问题整治有难点 需市统筹系统性解决
-
2023上半年电影票房262.71亿元 同期增长52.91%|世界速读
-
全球快消息!1新加坡元等于多少人民币(2023年7月3日)
-
仔猪为什么要早补饲、早断乳?分析来了|全球热消息
-
天天报道:正确使用教槽料仔猪体重、成活率提高七成?
-
环球微动态丨国家发改委:南方多地猪病复发,或导致猪价继续下滑
-
当前最新:每头猪亏损近300元!谁是最大“推手”?三大原因曝光!
-
今日关注:哺乳仔猪腹泻的原因分析及产房管理
-
乌克兰副防长承认:俄军在乌东部重镇附近取得一些进展
-
世界今日报丨法国骚乱蔓延 瑞士洛桑市爆发暴力事件
-
巴勒斯坦卫生部:以军在杰宁及附近地区的行动已致4名巴勒斯坦人死亡_全球热消息
-
白俄罗斯举行独立日庆祝活动 环球新消息
-
日本富士山新发现!空窗期内其实“悄悄”喷发过6次
-
我国七大江河流域将全面进入主汛期 多地存在洪涝灾害风险_世界快看
-
听障人士如何电话呼救?苏南地区首个 120 无障碍呼救平台上线 世界快资讯
-
政策护航、产业升级, 第二届香格里拉松茸论坛暨顺丰寄递解决方案发布会成功举办
-
无糖饮品配料表争相比短?天然代糖是未来趋势
-
看点:动车组驶上青藏线——青藏铁路西格段动车组投入运营首日见闻
-
环球时讯:突发爆雷!董事长被留置 卫宁健康市值半日蒸发46亿
-
全球视讯!世界各地频创高温纪录 今年恐迎来厄尔尼诺“大烤”
-
青州富豪宗立成:夫妻下海,曾是潍坊首富,拥有江北最大红木企业-每日时讯
-
助力节能减排,金力永磁开放式数字线上平台正式上线!
-
社保卡有望加载数字人民币支付功能 天天简讯
-
晨会纪要-最新消息
-
世界即时看!马斯克宣布推特最新改革 网友:“推特已死”
-
【天天速看料】菲律宾马荣火山持续喷发 流出岩浆达2.7公里
-
以军在约旦河西岸发动军事行动 巴勒斯坦称已致当地3人死亡25人受伤
-
法国多地骚乱程度减弱 巴黎局势逐渐平静|天天热闻
-
北京:老旧小区改造 如何落实“人民城市为人民”?|世界聚焦
-
日本开售方形西瓜:不能吃只能看 观赏期约一年 世界通讯