“AI换脸”软件公开网售,几百至上千元不等!法律边界在哪?
2023-06-03 11:14:11 来源: 央视新闻
近日,因“AI换脸”导致的诈骗案件引发关注。伴随着AI大模型的发展,“换脸技术”的应用范围越来越广,技术的突破还使得换脸后的人物表情、动作细节更为逼真,一旦被不法分子利用,可能带来严重危害。
(资料图)
总台记者经调查发现,网上“AI换脸”软件的获取非常容易。利用此类软件的法律边界在哪里?如何做好事前监管?
网上出现“AI换脸”付费软件
套餐价格从499元至2888元不等
在网上,演示换脸软件使用方法及效果的教程比比皆是,其中不少“AI换脸”软件需要高价付费使用。
记者根据搜索结果联系到一名开发者,他向记者提供一段使用其软件实现换脸的示范视频——双视窗页面左侧是换脸之前的原始视频,右侧则是换脸之后的视频,肉眼来看,换脸之后的“数字人”口型、表情、微小的动作几乎毫无破绽。
△卖家展示的素人换脸效果(S为原视频,D为更换之后)
在其销售的网站上,该软件开发者还展示了如何将两位知名女星的眼睛和嘴巴“拼接”到一起,生成全新“数字人”的视频。
△卖家展示的局部五官更换
这一付费软件提供从初级(LV1)到超级(LV4)再到全套(LV5)的不同版本。以初级套餐来说,499元提供软件界面、视频指导、换脸模型等,如果花2888元,则可得到全套(LV5)等级的视频换脸模型。
△网络上提供多种不同等级的换脸软件产品
“想换什么脸都可以”AI大模型可集成多种功能打造“数字人”
记者发现,该网站底部没有任何文字显示其已经过备案。卖家也十分谨慎,全程仅用文字交流。他表示,与初级(LV1)至超级(LV4)套餐相比,全套(LV5)版本迭代更多,能力更强,也可以理解为换脸效果更为逼真,同时,不仅可以实现视频换脸,还支持直播换脸。记者进一步询问能否根据自己的需求换脸时,软件开发者表示:“想换什么样的脸拿素材训练就可以。”
△软件开发者与记者的聊天截图
一位从事AI开发的技术人员表示,这意味着可能会有更多难以控制的风险。“集成文生图、文生文,文生音频、文生视频、换脸,这样的功能结合起来,就可以打造出一个完全崭新的‘数字人’或者叫‘AI人’,监管成本和难度高了好几个数量级。”
△卖家展示的用户反馈
专家:有效的标识监管体系
能提前厘清“AI换脸”带来的模糊边界
北京嘉维律师事务所律师、IT法律专家赵占领表示,从事后打击的角度讲,刑法中有关于诈骗罪的规定;民法典明确,公民享有肖像权、姓名权、名誉权等相应的民事权利。也就是说,如发生使用他人肖像进行诈骗的相关案例,不法分子能够在事后被法律约束与制裁。但在人工智能技术飞速发展的当下,还应探讨如何能够做到有效的事前防范。
例如,在《互联网信息服务深度合成管理规定》中要求,深度合成服务可能导致公众混淆或者误认的,深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。
《生成式人工智能服务管理办法(征求意见稿)》要求,利用生成式人工智能产品向公众提供服务前,应当按照有关规定向国家网信部门申报安全评估;要尊重他人合法利益;产品提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责等。
浙江大学国际联合商学院数字经济与金融创新研究中心联席主任盘和林认为,从目前来说,如果能够有效落实标识的要求,形成有效的监管体系,可以在很大程度上提前厘清“AI换脸”所带来的模糊边界。
盘和林:当前“AI换脸”的标识监管体系还没有形成,要针对不标注的内容,通过技术的手段来辨别,并且对不标注的个人或者是单位组织要有具体的处罚措施、标准以及制度。
北京嘉维律师事务所律师、IT法律专家赵占领认为,从长远来看,监管与处罚措施还需要随着技术发展不断“迭代”,才能形成立体有效的治理方案。
▌本文来源:央视新闻微信公众号(ID:cctvnewscenter)综合中央广电总台中国之声
标签:
为您推荐
精彩放送
热门文章
-
天下车智评测|更换玩法,东风日产将用超混为三缸奇骏“昭雪”?|天天热点评
-
“暖意”渐现贝壳股价何时能扭转颓势? 天天观天下
-
碧桂园调整组织架构:程光煜兼任地产集团CEO|每日速讯
-
九州通两年扩店超1万家,需警惕“后遗症” 快资讯
-
新乳业最新战略目标:力争年收入保持双位数增长、净利率5年倍增-速看料
-
世界热点!vivo首款半入耳主动降噪耳机vivo TWS Air Pro正式发布
-
全球今日讯!慧翰股份IPO:低价转让引二股东维权 2.3亿债务暗藏大规模减持
-
天下车智|超越特斯拉,福特豪言难兑现
-
世界焦点!实现学习场景全面数字化 猿辅导推出小猿学练机
-
娃茅酒业跑步上市的背后,要重视产品与实控人风险
-
北京银行连续六年支持中关村国际前沿科技创新大赛成功举办
-
股东大会五粮液管理团队坦诚相对,给投资者吃下“定心丸”|快看点
精彩图片
-
浪潮信息发布新一代算力服务器
-
“三夏”时节,农民如何应对气象灾害?专家解答 天天速读
-
天天微资讯!联合国教科文组织公布2023年世界杰出女科学家奖得主
-
浪潮信息发布两项服务器创新技术_全球独家
-
我国首个海上二氧化碳封存示范工程投用
-
维生素D缺了不行,补多了也不成
-
单原子X射线信号首次探测到,将彻底改变材料检测方式 全球时快讯
-
银河系三分之一常见行星可能位于宜居带
-
首届中国绿色算力大会将于7月1日在内蒙古呼和浩特举办
-
焦点信息:杨建华:技术、资本、人才是构建创新创业生态系统的三大要素
-
微动态丨【民建北大“城市发展论坛”】刘刚:城市是解决可持续发展的关键所在
-
【独家】美媒:科技行业领袖警告AI可能给人类带来“灭绝风险”
热文
-
每日速递:2023年06月03日全国内三元生猪价格行情涨跌表
-
2023年06月03日全国外三元生猪价格行情涨跌表 天天热门
-
外交部:所谓“21世纪贸易倡议”是美对台敲骨吸髓的“指挥棒”|环球速递
-
两党吵到最后一刻,问题解决拖到后年,美债危机以“深夜闹剧”收场 今日精选
-
共和党保守派不满债务协议,欲罢免众议院议长麦卡锡|环球关注
-
北约秘书长指责中国威胁邻国,我驻挪威使馆驳斥! 资讯推荐
-
天天速递!拜登:美国避免了一次经济危机和经济崩溃
-
清洁能源助天津低碳转型-世界要闻
-
德邦锐恒39个月定期开放债券型证券投资基金基金经理变更公告
-
鹏华尊信3个月定期开放债券型发起式证券投资基金基金经理变更公告-天天观察
-
【世界播资讯】中银季季红定期开放债券型证券投资基金开放申购、赎回业务公告
-
全球热文:德邦锐兴债券型证券投资基金基金经理变更公告
-
德邦锐兴债券型证券投资基金基金经理变更公告
-
短讯!九江不足一岁孩子抚养费如何给付
-
圣诞节节目精选三句半_圣诞节节目 全球今亮点
-
焦点速看:联合国:自苏丹冲突爆发以来已有近4.8万人从苏丹进入埃塞俄比亚
-
伊朗外长与沙特外交大臣在南非举行会晤
-
【全球热闻】惠誉:美国信用评级仍将处于负面观察状态
-
环球今头条!苏丹武装冲突持续 首都及周边多地发生交火
-
美国财政部已使用超九成债务上限“特殊举措”资金|环球快播报
-
每日消息!麦收忙
-
海富通上证投资级可转债及可交换债券交易型开放式指数证券投资基金基金经理变更公告 世界百事通
-
海富通基金管理有限公司关于调整基金经理助理的公告 报资讯
-
关于《蜂巢中债1-5年政策性金融债指数证券投资基金分红公告》的更正公告 天天短讯
-
【全球新要闻】关于《蜂巢中债1-5年政策性金融债指数证券投资基金分红公告》的更正公告
-
【世界新视野】海富通上证5年期地方政府债交易型开放式指数证券投资基金基金经理变更公告
-
中评镜头:一杯南洋老咖啡折射的新加坡精神|今日观点
-
2023年最新养老金调整方案出炉,3000和6000涨幅一样吗?谁会吃亏吗?-当前看点
-
今日讯!亚马逊打算推出超低价手机套餐?尽管巨头否认,电信股还是跌惨了
-
埃及总统同卡塔尔埃米尔通电话商讨苏丹局势_天天速看
-
世界热头条丨厄瓜多尔总统拉索宣布不参加新一届大选
-
美国宣布将在挪威北极城市设外交站点
-
一年超40000人遭枪杀 美国总统拜登发声明呼吁控枪-天天热点
-
印媒:印度奥里萨邦列车相撞事故已致120人死亡_环球今热点
-
免职和撤职有什么区别(免职和撤职有哪些不一样)
-
天天快看:微信截长图怎么截_微信截长图
-
康宁杰瑞制药-B(09966.HK):6月2日南向资金减持77.77万股
-
大连小额贷款的申请条件是否严格?
-
世界信息:美国加利福尼亚州立大学DBA有学历要求吗?
-
内衣高图必备的想象力 开衩开到胳肢窝的囧图 环球热门
-
口子窖:2023年整体业绩增长目标不低于18%
-
长城守护人|内外长城交汇处,一家四代人的接力守望路 全球动态
-
欧菲光是华为自动驾驶核心一级供应商_欧菲光无人驾驶怎么样
-
永兴县组织退伍老兵赴革命旧址重忆初心使命 即时看
-
提升生猪等畜产品供给能力 湖北省出台推进养殖业稳增长促增收措施
-
环球短讯!斐讯k2路由器是千兆吗 斐讯k2是千兆路由器
-
环球实时:新疆多部门联合印发通知加快推动抽水蓄能高质量发展
-
快讯:辽宁各地全面开展“清风辽宁政务窗口”评选活动
-
机构:5月LCD TV面板价格延续涨势,市场需超大尺寸破局
-
股票行情快报:唯科科技(301196)6月2日主力资金净买入8.83万元 速讯