当前时讯:在发展中治理完善人工智能大模型
2023-05-26 09:09:52 来源: 经济日报
新一轮科技革命和产业变革迅猛发展,数字技术、智能经济与数字化产业成为催生新产业、新业态、新模式的重点领域。发布仅6个月的ChatGPT,已掀起全球人工智能(AI)产业的大模型热潮。在日前举办的中国人工智能产业年会中,AI大模型带来的安全挑战和发展机遇成为与会专家热议话题。
赋能千行百业
ChatGPT在与人类对话、写作文、写代码等方面令人惊艳的表现,是AI大模型GPT通过大算力、大规模训练数据突破自然语言处理瓶颈的结果。但大模型本身并不是新鲜事物,AI大模型也不止GPT这一条路线,很多科技巨头近几年都在“炼”大模型,且各有积累。这也是ChatGPT走红之后,各巨头短短数月内就纷纷推出竞品的原因。
(相关资料图)
“以ChatGPT为代表的多模态通用大模型,将深刻变革各行各业。”电子科技大学教授、考拉悠然科技有限公司联合创始人沈复民说,行业人工智能可有效推动技术与市场供需平衡,将是人工智能产业化的最大机遇。人工智能技术落地行业时,需要克服开发效率低、落地成本高、场景复杂多元等难题。
沈复民所在的研发团队获得了2022年度吴文俊人工智能科学技术奖自然科学一等奖。据他介绍,团队开发了为垂直行业赋能的多模态AI操作系统,基于行业多模态大模型、多模态融合分析、机器视觉等核心AI算法支持,可以让企业摆脱繁杂的算法、算力、数据整合工作,快速孵化行业大模型,高效率应用到工业制造、城市治理、消费、能源、交通、建材等业务场景。
“通用对话技术是人工智能领域最具挑战性的方向之一,也被认为是通用人工智能的必备能力。如今备受关注的对话式人工智能,其背后就有通用对话技术。”百度首席技术官、深度学习技术及应用国家工程研究中心主任王海峰说。中国人工智能产业年会期间,由他带领团队完成的“知识与深度学习融合的通用对话技术及应用”成果,获2022年度吴文俊人工智能科技进步奖特等奖。
公开资料显示,这一研究项目已获授权发明专利82项,发表高水平论文36篇,在国际权威评测中获世界冠军11项。目前项目成果实现了大规模产业应用,已支持5亿智能设备,服务超过10亿用户,覆盖包括通信、金融、汽车、能源等20多个行业。
争取“主动安全”
技术是把双刃剑。人工智能大模型能力越大,一旦滥用带来的危害也就越大。当前,ChatGPT等工具被用于生成假新闻、假照片、假视频,甚至实施诈骗等犯罪行为,引发人们对大模型安全性的担忧。
西北工业大学教授王震是网络空间智能对抗应用研究领域的专家,他认为,要用人工智能驱动网络空间智能对抗。比如,用人工智能检测、识别有害信息,搭建“主动安全”的智能防御网。
“只有在AI发展过程中,我们才能面对问题、解决问题,并找到机遇。”蚂蚁集团AI风险管理负责人杨舟表示,在AI管理中,安全事件对日常风险管理至关重要。“我们需要重视和预测相关事件,分析安全问题,避免发展带来的风险。”
了解机理是安全管理的基础。不过,大模型的“智能涌现”目前还是个难以解释的黑箱,没有人能理解、预测或可靠地控制这些大模型,甚至模型的创造者也不能。开发出ChatGPT的公司OpenAI,也为大模型做了大量价值敏感设计和道德嵌入工作,但仍然存在明显的漏洞和局限。
“虽然大模型的能力在不断变强,但如果不对其进行专门的安全性训练或安全性加固,其脆弱性不会得到任何改善。”瑞莱智慧公司首席执行官田天认为,人工智能大模型的安全性面临很多挑战。
“大模型是人工智能发展的转折点,研究人员需要进一步了解这些大模型为何具备类人思考的能力。”香港科技大学教授冯雁表示,ChatGPT最初只作为科研项目发布,但通过加入人机交互界面,迅速变成网红产品。其爆红带来的伦理问题始料未及,也给生成式人工智能的管理提出了挑战。“只有真正的开源,才能共同研究,理解大模型存在的问题和产生的根源,更好地进行管理。”
“商汤一直是开源开放的贡献者和支持者,但在开源上我们要谨慎一些,特别是目前对于大模型而言,安全防护体系还未健全。”商汤科技人工智能伦理与治理研究主任胡正坤说,在智能时代把底层模型开源,不见得安全,因为在开放能力的同时,也在开放薄弱点,而薄弱点有可能被不法分子利用。
亟需深度治理
专家们对未来的人工智能长远治理做出种种设想。
“不能把价值设计看成治理的唯一路径。”复旦大学应用伦理学研究中心教授王国豫认为,针对现阶段人工智能治理的局限性,可从三方面采取措施。一是充分评估数据和模型的伦理影响和风险点;二是从流程方面,不仅要考虑通用模型,还要把通用模型纳入到社会生态系统、社会政治经济系统来考虑;三是探索伦理方法,充分探索“价值敏感设计”“负责任创新”等伦理方法在通用模型语境下的可行性。
中国社会科学院哲学所科技哲学研究室主任、研究员段伟文表示,需要警惕机器对人类思维的驯化。比如,有的人不擅社交,可能用人工智能生成对话的方式帮他社交聊天,这样的对话机制会反过来驯化人类。他建议加强人类和人工智能的交互和沟通,不仅要了解人类怎么去修机器,也要研究机器如何影响人类。
中科院自动化研究所研究员曾毅期待构建人工智能的道德直觉,“为机器人立心、为人工智能立心”是重要的长远工作目标。“强化学习的奖惩只是加加减减,它不是真正对道德的理解,除非人工智能实现基于自我的道德直觉。缺乏自我的人工智能无法拥有真正的道德直觉,做真正的道德决策。我们在做一个基于类脑的脉冲神经网络构建创生的人工智能引擎,希望让它像儿童一样去学习,获得自我感知。”曾毅说。
“从要求人工智能大模型合乎伦理,到真正构建有道德的人工智能。”曾毅表示,未来通用人工智能和超级智能的伦理安全问题,要从现在就开始关注和准备。(记者佘惠敏)
标签:
为您推荐
精彩放送
热门文章
-
马上消费跻身“2013未来银行科技服务商”前十|环球新视野
-
泰康保险集团助力社区居家养老创新发展
-
多家医药流通公司增收不增利,上海医药继续领先|财报看点
-
焦点消息!违规被警告后,粤财信托启动24亿增资
-
金科破局之道:债务重整及控股股东增持-今日要闻
-
天下车智|二代营销管理层不足一年被换下 岚图汽车“断臂求生”?
-
广发银行高管接连被查 去年净利五年内首次下滑-每日信息
-
全球球精选!机构不看好?逾70只基金遭遇大额赎回,净值最高暴涨64%
-
百瑞信托2022年年报: 营收净利双失利
-
天下车智|广汽三菱:一代传奇将谢幕 动态
-
天天即时:出人意料,今年以来债券基金脱颖而出
-
十四五“中国新一代奶粉研制”项目启动 飞鹤牵头承担
精彩图片
-
当前时讯:在发展中治理完善人工智能大模型
-
微盟尹世明:AIGC大模型供需两端存在“五大隔阂”
-
微盟布局“SaaS+AI”助力商户智慧经营
-
科创科普深度融合 上海浦东新增10家科普基础设施单位 天天速递
-
每日看点!陕西加强种质资源保护 秦岭细鳞鲑入选十大特色水产种质资源
-
全球速递!承载人工智能——MR眼镜激发无穷想象
-
【世界新视野】2023年农业植物新品种保护十大典型案例发布
-
北京:推动高水平开放 打造协同新平台-环球快报
-
卫星导航与位置服务业产值超5000亿元
-
【热闻】传统茶里的“年轻态”——第五届中国国际茶叶博览会现场观察
-
北京国际青年创新发展论坛即将启幕_全球资讯
-
全球视点!全国科技工作者日 | 致敬各行各业每一位科技工作者,致敬心中的每一束光
热文
-
汇添富中证新能源汽车产业指数型发起式证券投资基金(LOF)A类份额更新基金产品资料概要(2023年05月26日更新)
-
每日视点!腰间盘突出怎么锻炼腰部和背部肌肉(怎么锻炼背部肌肉有效)
-
门这部电影简介_门 微电影相关内容简介介绍
-
比米尼到处流传海明威的故事_天天资讯
-
世界快讯:俄国防部:在波罗的海上空发现两架美军轰炸机接近该国空域
-
环球热点!美媒:无人机袭击克里姆林宫或为乌特别部门策划
-
美驻日海军再爆丑闻 水兵因涉毒遭调查|世界热文
-
白宫新闻秘书:债务上限谈判富有成效 但两党仍有分歧
-
环球焦点!何猷君奚梦瑶结婚视频_何猷君奚梦瑶结婚
-
美国财政部现金余额跌破500亿美元 下月初或无钱可用
-
电子离合器_电子离合器太高怎么调
-
一元一次方程纯计算题_一元一次方程计算题100道及答案
-
成都银行贷款可以线上申请吗?
-
甲状腺手术后遗症有哪些_甲状腺消融手术后遗症
-
九怨图文攻略_九怨
-
【环球时快讯】欧阳青松(欧阳青)
-
当前速读:山西高本贯通什么意思(北京高本贯通是什么意思)
-
热门:成都职工离职后单位如何为职工办理公积金账户封存?
-
京投发展获控股股东增持741万股 持股比例达40%
-
世界动态:成都银行贷款可以线上申请吗?
-
深交所:百胜智能涨幅严重异常期间自然人买入12.75亿元 占比76.27%-环球微资讯
-
世界观察:大冒险经典问题_经典问题
-
焦点速递!exile(EXILE)2023年05月25日更新
-
世界看热讯:Mysteel日报:京津冀建材价格继续下跌 午后成交有回升
-
美国至5月20日当周初请失业金人数录得22.9万人
-
德国一季度经济继续萎缩 已陷入技术性衰退
-
今日现在百度怎么搜片_快播怎么找片怎么搜片
-
机构:哥伦比亚智能手机市场OPPO荣耀1Q23出货量同比增长超一倍|环球观点
-
勇哥探案 ▏网红自导自演“性骚扰”,判赔和道歉外,涉嫌刑事犯罪吗?
-
超华科技:根据2022年报显示 境外销售金额占比在5%左右 出口金额占公司收入比例较小-速看料
-
引产的胎儿咋处理(引产)2023年05月25日更新
-
19寸显示器尺寸对照表图片_19寸显示器尺寸 世界速递
-
世界热推荐:6岁男童被困电梯20分钟,冷静处理上演教科书式自救
-
外媒:美国可能“不得不修改其对华政策” 消息
-
头条:外交部:美国才是“黑客帝国”
-
外交部:愿继续为推动乌克兰危机政治解决发挥建设性作用 世界播资讯
-
商务部:推进家政服务业提质扩容
-
微盟尹世明:AIGC大模型供需两端存在“五大隔阂”
-
股票内盘外盘是指什么?股票大盘又是什么意思?
-
外交部组织驻华使团观看杂技专场演出
-
【世界播资讯】日本突发!持枪袭击!3人确认死亡
-
商务部:中国连续7年保持为德国第一大贸易伙伴
-
环球热资讯!【世界说】美媒:有意为之!美国严重且普遍的贫富文化是制度设计造成的
-
泰国选举委员会公布国会下议院选举正式结果|聚焦
-
热头条丨美国债务上限逼近“悬崖” 两党谈判成赌博闹剧
-
当前播报:曹操性格特点介绍简介 曹操性格特点
-
微盟布局“SaaS+AI”助力商户智慧经营
-
2023天津西青区幼儿园招生实施方案
-
施耐德电气徐韶峰:以持续创新为“两型建设”提供核心动力
-
奥迪威:AKⅡ车载超声波传感器产品的研究与开发已到批量生产阶段|焦点热闻