环球快播:“ChatGPT热”之冷思考:小心!它可能在一本正经地胡说八道
2023-02-11 09:01:53 来源: 光明网
编者按:
短短几个月,ChatGPT在全球圈粉无数,其背后的原理和工作机制是什么?它会替代记者的工作吗?我们应该怎么看待ChatGPT的未来发展?光明网《创新改变中国》栏目专访中国传媒大学脑科学与智能媒体研究院院长、博士生导师曹立宏,从人工智能视角探究ChatGPT。
(相关资料图)
专家简介
曹立宏,中国传媒大学脑科学与智能媒体研究院院长、博士生导师,中传学术委员会副主任,中国人工智能学会第八届理事会理事,第八届教育部科技委员会人工智能与区块链技术专委会委员,专注于类脑智能和计算的研究。
“ChatGPT使用感不错,但也有不足”
光明网:您使用ChatGPT的感受如何?有哪些明显不足?
曹立宏:相比过去的GPT3,感觉确实是有明显的提升,尤其是它对话的流畅性很好,说明现在语言生成模式方面做得不错了。对于普通的知识,比较大众化的或者比较浅显的专业知识,它能够提供,组织得也很不错。但对于比较专业性的问题,它就开始出问题了。
ChatGPT使用了带人类反馈的强化学习,GPT3生成语言的能力就已经很强大了,再加上Chat(聊天)的方式,就比较火,某种意义上这也是商业推广很好的模式。目前ChatGPT似乎有个限制,内容更新不是很快。例如,你要问它中国最火的电视剧,它大概答不出叫《狂飙》。因为这涉及AI中的灾难性遗忘问题:怎么让它很快学会新东西,又不去干涉原来的东西,这是AI领域尚未完全解决的问题。
另外,ChatGPT没有对概念的具身体验,这就是我们真正的common sense(常识),我们从小在生活环境里所积累的知识,例如重力等等。对一个东西我们不单看到,会听到,可能会摸到、闻到、吃到,是全方位的。如果你看到一个黑色的苹果,你敢吃吗?你肯定会犹豫,没准一摸你就知道那是个烂苹果。实际上我们人类的理解很多东西是具身理解的,在自然语言处理里的“理解”,仅仅依靠文本,是一种肤浅的理解。
图片由百度文心大模型 AI 生成
关键词:《狂飙》,灾难性遗忘,常识,具身体验,文本
光明网:作为一名记者,被ChatGPT替代的可能性有多高?
曹立宏:我觉得你现在不用太担心,首先记者是个基于深度理解来提出问题的提问者。在深度理解这方面,ChatGPT目前还做不到。还有,它现在不碰情感系统。但作为记者,这两点都很重要。而且,记者需要快速学习,因为你希望知道受访者的性格等等方面,在采访过程当中,甚至你可以快速学习和了解到,这些都不是机器目前能够做得了的。
图片由百度文心大模型 AI 生成
关键词:记者,深度理解,提问,情感,快速学习,性格
“ChatGPT更多还只是一个辅助工具”
光明网:我看您在朋友圈里评论,“ChatGPT是穿了个AI的深度学习马甲”,“不要把ChatGPT看成AI就好”,“对科学来说大概率是很流畅地胡说八道”,如何理解这些观点?
曹立宏:这几年自然语言处理领域确实有比较大的发展。很多学生就往这个方向偏,觉得这个方向好找工作。很多企业也确实需要这样的人,但作为我们做科研的人确实还是蛮担心的,不太乐观,因为它对专业的东西会胡说八道。所以如果是想要搞研究的人把ChatGPT当成导向式的东西的话,可能会引发很大的问题。所以我说它是“穿了个 AI的深度学习的马甲”,它本身并不像科学家或者专业的人具有很专业的思考和专业的知识。
另一句“不要把它看成是AI就好”,因为AI的本源是想要模仿我们人类的智能。很明显ChatGPT它不是类似于人的智能,在某种意义上它超越了人,它知识面特别广,但是在深度上,它没办法像人一样深入思考。对于具有科学深度的知识和思考,它大概率是很流畅的,但常常是“很一本正经的胡说八道”。
图片由百度文心大模型 AI 生成
关键词:自然语言处理,找工作,胡说八道,马甲,专业思考,AI,人类
光明网:如果不把它看成AI,要把它看成什么呢?
曹立宏:一个辅助工具,就好像最早的时候连计算器都没有,我们买菜买肉就心算,麻烦一点就拿个笔算,慢一点。后来有计算器了,就快了。现在ChatGPT也是特别快,它的自由度变高了,也就是说我可以随便问。以前你也可以用搜索引擎搜索很多东西,但基本以关键词搜索。现在可以用关键句来搜索。你可以让它帮你写一段,所以效率是高了。但是它的产出的内容是否有深度?这个我不看好。
图片由百度文心大模型 AI 生成
关键词:辅助工具,计算器,自由,搜索引擎,关键句,效率,深度
“未来需警惕ChatGPT被滥用”
光明网:怎么看ChatGPT的未来发展?
曹立宏:我认为ChatGPT有两条发展路径。一还是所谓深度学习,它本质上采用的是人工神经元模型构建的深度学习神经网络及相关的称为反向传播学习算法。但这个模型本身偏离了生物大脑中的神经元模型和学习算法。所以连深度学习最为核心的科学家Geoffrey Hinton还在积极寻找更类似大脑的模型和算法。我们需要更好的模型和算法,可惜到现在也没有完全提出来。对ChatGPT来说,这相当于要动一个比较核心的手术。
还有一条路径,是更多从大脑的角度去思考,例如在ChatGPT里它用到了一个最基本的技术,就是把例如苹果、梨等等概念量化,变成所谓的词向量,这种量化在大脑里看可能不完全是这样的。所以我们能不能有一个更类似于大脑记忆、量化、学习的方式,也有可能演变出更类似于人的ChatGPT。
未来,它会是一个人们喜欢去用的工具,我也会用。目前的声音太过于正面了,如果缺乏对它极限能力判断的话,(ChatGPT)会被滥用,滥用带出来的问题就太大了。
图片由百度文心大模型 AI 生成
关键词:深度学习,人工神经元模型,神经网络,反向传播学习算法,大脑,工具
(光明网记者 林佳欣)
标签: ChatGPT
为您推荐
精彩放送
热门文章
-
热点聚焦:宁波银行2022年业绩快报:总资产突破2.36万亿,净利增18%
-
【世界播资讯】“卤味一哥”绝味食品的困局:净利跳水、投资收益率存疑
-
2022年度个税汇算3月1日开始,退税有新变化
-
漆黑中的万达电影,即将盼到黎明?
-
环球要闻:财经资讯|孙正义对软银的欠款达到51亿美元
-
全球新动态:为什么说沈仁康被查对浙商银行影响很有限?
-
建信人寿2022业绩:亏损12.19亿,董事长谢瑞平离任
-
快报:国际化进程加快 通用股份2023年海外持续扩产
-
世界微头条丨又是亏损,金种子酒何时才能翻身?
-
天天速看:天下车智|一汽大众电动得意、燃油失利,潘占福上任两年迎大考
-
全球快报:八马茶叶三战IPO背后:或是“魅力”不足
-
新华基金被强制执行11.7亿,易主后能扭转颓势吗?
精彩图片
-
环球快播:“ChatGPT热”之冷思考:小心!它可能在一本正经地胡说八道
-
2023“科创中国”年度会议将于本月召开
-
软流圈研究取得新发现 为理解地球板块运动提供新思路
-
看热讯:山东枣庄:锂电聚集区促老工业城市加速经济转型
-
环球今日报丨原创“中微子歌”,英文版,更好听!
-
神舟十五号航天员乘组圆满完成第一次出舱活动全部既定任务 空间站货物出舱安装任务也于前期陆续展开
-
热资讯!神舟十五号航天员乘组圆满完成第一次出舱活动全部既定任务
-
当前快看:“同济飞鱼”:无人机+潜水器的创新组合
-
【世界独家】帮老年人一起拥抱数字生活
-
【世界播资讯】中国空间站全面建成后航天员首次成功出舱
-
全球今日报丨AI伴学、护眼护脊……作业帮重新定义“学习桌”
-
国家烟草专卖局重拳打击“奶茶杯”“可乐罐”等非法电子烟
热文
-
2023年02月09日全国柚子报价分析
-
焦点热门:叙利亚教育部: 有599所学校受到强震影响
-
每日时讯!“和平-23”联演开幕 巴将领:无论巴基斯坦在海上如何发展,都离不开中国
-
快讯:俄国家航天集团公布“联盟MS-23”飞船任务计划
-
2023年02月09日全国大蒜报价分析
-
世界观热点:2017年4月:全国各省市电工仪器仪表产量排名,浙江省当月产724.62万台登顶
-
【新要闻】中国救援队在土耳其持续有力展开救援行动
-
环球热点评!外媒:美军试射了一枚民兵III型洲际弹道导弹
-
环球关注:外媒:埃尔多安首次承认,土政府搜救工作没有“希望中那么迅速”
-
又一个奇迹!中国救援队救出被埋100小时幸存者
-
环球微速讯:欧盟13日起所有消费税交易将完全电子化
-
[快讯]华森制药公布年度快报
-
世界实时:2023年2月10日全国玻璃价格最新行情预测
-
要闻速递:2023年2月10日全国丁二烯价格最新行情预测
-
聚焦:2023年2月10日全国涤纶FDY价格最新行情预测
-
当前热议!2017年4月:全国各省市微型计算机设备产量排名,四川省当月产640.24万台登顶
-
2017年4月:全国各省市彩色电视机产量排名,广东省当月产611.13万台登顶
-
综述:全年利润“狂飙” 西方能源企业创纪录盈利惹非议
-
今日要闻!强震已致土耳其叙利亚超2万人遇难
-
世界视点!漫评美国滥施“长臂管辖”:“害人害己”
-
环球热门:东耶路撒冷撞车事故肇事司机被路人击毙
-
当前看点!1小时17次!扎波罗热遭俄乌冲突爆发以来最严重袭击
-
天天热消息:简单了解一下何为“百度新闻源”
-
焦点速读:2023年2月10日上海白银价格最新行情预测
-
世界新资讯:2023年2月10日湖南省锑(1#)价格最新行情预测
-
今日讯!2023年2月10日山东省四氯化钛价格最新行情预测
-
全球实时:2023年2月10日上海市黄金价格最新行情预测
-
2017年4月:全国各省市房间空气调节器产量排名,广东省当月产699.09万台登顶
-
前沿热点:英媒:摩尔多瓦召见俄罗斯大使,有一枚导弹飞越该国领空
-
热点在线丨普京将于2月21日发表国情咨文,重点谈这件事!
-
环球简讯:叙利亚大使馆确认假账号冒充总统,多人已受骗!
-
当前短讯!美国宣布:暂时放宽制裁,时限180天
-
超2.1万人遇难!大火重燃、海水倒灌!记者直击地震重灾区救援现场
-
天天报道:欠借呗6万无力还怎么办?会上门催收吗?
-
电脑基本技巧:革命性产品 完美人体工学键盘接受预定
-
世界热资讯!2023年2月10日全国铁矿石(澳)价格最新行情预测
-
当前快看:2023年02月09日全国香菇报价分析
-
每日报道:2023年02月09日全国蓝莓苗报价分析
-
2023年02月09日全国甜瓜种子报价分析
-
环球速读:2017年4月:全国各省市铁路机车产量排名,湖南省当月产30辆登顶
-
环球报道:世界女排联赛赛程公布,中国女排5月31日首战巴西
-
印尼巴布亚省5.4级地震超2000人受灾
-
土耳其地震为何救援难?中国卫星再度传回当地灾后卫星影像给出答案
-
当前播报:伊朗总统:美国和欧洲缺乏完成履约谈判的意愿
-
驰援土耳其叙利亚 地震救援里的中国力量
-
全球消息!花呗逾期还款后多久能够重新再次使用?被起诉会有什么后果?
-
2023“科创中国”年度会议将于本月召开
-
【天天新要闻】2023年2月10日全国锌价格最新行情预测
-
天天新动态:2023年2月10日全国1#铅价格最新行情预测
-
要闻速递:2023年青贮饲料行业发展现状