世界观察:ChatGPT“狂飙”引担忧 AI发展需“备刹车”
2023-03-30 18:10:16 来源: 光明网
王大鹏
经常跑高速的朋友大概都有这样的体会,在急弯或者长下坡的路段,路旁一般会有“请试刹车”的警示语,甚至有些路段还有备用车道,目的就是降低驾驶过程中出现的风险,说白了就是在加油的同时不要忘记备刹车。
最近,ChatGPT相关的讨论一度成为热议话题,很多人都跃跃欲试,向其提出各种问题,似乎它都能给出令人满意的答案,甚至已经有人开始利用这个程序替自己完成部分工作,比如撰写论文。
【资料图】
在前不久组织的一次科普座谈会上,有专家表示以ChatGPT为代表的人工智能会给科普创作带来一定的挑战,因为随着大规模语言模型的日趋成熟,普通读者可能难以区分哪些作品是由人工智能生产出来的。当然,在科普作品的情感方面,也许人工智能还不能比肩人类这个物种,但是它给我们带来的挑战仍然不能忽视。实际上,随着人工智能产品不断融入甚至是侵入生活的各个角落,有关人工智能将给人类带来哪些挑战的讨论也日渐多了起来,当然也有人会担心它会让很多人失业。
日前,包括图灵奖得主约书亚·本吉奥、计算机科学家斯图尔特·罗素以及特斯拉创始人马斯克在内的千余名专家人士在宇宙学家泰格马克等人创办的未来生命研究所网站上发表了一封呼吁暂停训练比GPT4更强大的AI系统的公开信。他们认为最近几个月来人工智能领域已陷入一场几近失控的竞赛,我们到了给巨型AI研究按下暂停键的时候了。
在《2001太空漫游》中,作者写过这样一句话:“任何足够先进的科技,都与魔法无异。”以ChatGPT为代表的人工智能应用就如魔法一般,你提出一个问题,它能在很短的时间完成任务,当然其中也有一本正经胡说八道的内容,但是对于不明就里的普通公众而言,它确实就像变戏法,这也暗合了卡尔·萨根的那句话,“我们生活在一个完全依赖科学和技术的社会中,然而几乎没有人了解这些科学和技术”。
确实,人工智能便捷了我们的生活,比如在交通行业,人工智能助力自动驾驶汽车已经开始上路。借助人工智能技术,汽车可以处理大量复杂道路、行人和其他车辆的信息,并据此得出行驶路线的智能决策;在金融行业,人工智能技术可以生成金融分析模型,并且可以对历史信息进行整合,以便在征信和风控领域进行辅助;在医疗行业,人工智能技术可以通过对海量历史数据的挖掘,协助医生完成诊断,还可以通过对医疗影像数据的分析计算初步得出病理分析……
但是,在我们享受人工智能这种便捷服务的同时,也不能忽视它可能给我们带来的挑战。比如前不久刚刚发生的AI一键脱衣功能给当事人带来的伤害,这样的例子可能还有不少。
从科技向善的角度来说,我们有必要关注和研究新技术应该保持在一个什么样合理的范围内,才更符合全体人类的发展利益,这其实是一种立场和价值导向的问题,当然这应该是全人类共同持有的一种警觉,但是从研发者的视角来说,至少应该把“科技向善”作为一个终极目标,在最大的范围内寻求共识和解决方案,引导人工智能产品释放最大的人性之善,实现社会的良性发展。也就是说,人工智能产品需要以为人服务为宗旨,不能脱离开人类社会的全面发展这个基本目标。
实际上,从阿西莫夫的机器人三定律开始,人工智能的伦理问题就一直得到了特别的关注,但是就目前的发展速度来看,随着对人工智能投入和研发力度的不断加大,也许人工智能产品通过图灵测试只是时间问题,但是我们也应该从伦理道德、法律规章等较多做好相应的机制建设,让人工智能产品在造福人类福祉的道路上正常行驶,甚至必要的时候我们需要有一个“刹车”,毕竟在低头拉车的同时,我们也需要抬头看路,想想为什么出发。
这也让人想起了1975年在加利福尼亚阿西罗马会议中心举办的最著名的阿西罗马会议,其正式的名称是重组DNA分子国际会议。会上有超过100位顶尖科学家——其中大部分都是生物学家,和众多律师以及物理学家(以及报刊的成员)齐聚一堂共同提出对重组DNA技术(也被称为基因修饰)进行自我约束的指南。可以认为,该会议起源于科学家自己对研究的关切,会议研究并公布了一系列原则,旨在处理与重组DNA技术相关的潜在危害。同时,该会议是科学家们的一种自我规制,同时也有助于建立公众的信心,即在科学家采用的预防性措施方面,科学还是有用的。
想到日前发布的呼吁暂停训练比GPT4更强大的AI系统的公开信,我们并不知道它是否会起到作用,但是至少我们需要去思考这样一个问题,同时也应该考虑在加油的时候别忘了备刹车。
(作者系中国科普研究所副研究员、中国科普作家协会理事)
标签:
为您推荐
精彩放送
热门文章
-
新单保费大增、内含价值破两千亿,太平人寿高质量发展再进一步 快看点
-
今日播报!煤场截断万亩林场水源,林场主跪地求供水
-
等待IPO四年之久,顺德农商行上市之路变顺了吗?-天天热议
-
保险观察|中国太保:2022年“期末考”喜忧参半|全球新视野
-
每日速读!擅自拨付商品房预售资金 湖南暂停与渤海银行资金监管合作
-
焦点滚动:卓越商企服务2022年年报:规模再上新台阶,持续开拓新赛道
-
每日简讯:阳光财险:做优“长护”服务 守护“失能”人生
-
天下车智|昔日SUV亚军如今名落孙山,途观销量为何大不如前? 当前通讯
-
冲刺A股两年的湖州银行,IPO梦何时能圆? 世界播报
-
原料成本上涨盈利能力下降,“化学茅”万华化学停不下扩张步伐
-
960万平方公里,哪里首先成“中国宝宝的专属奶源地”
-
连续增聘基金经理,陈金伟或将离职?宝盈基金人才不足问题凸显
精彩图片
-
世界观察:ChatGPT“狂飙”引担忧 AI发展需“备刹车”
-
工信部重点开展9项服务助力中小企业发展
-
快报:让机器人拥有“类人”触觉 东南大学成功研发超属性电子皮肤
-
“三零”引领+“三跨”驱动的电力生产准备模式创新与实践
-
天天速看:航天科工203所一室获评2022年度二院优秀青年突击队
-
广湛铁路漠阳江特大桥(60+96+60)米连续梁顺利合龙|聚焦
-
前沿资讯!“慧眼”“极目”精确探测最亮伽马射线暴
-
快闪|快上车!2023年国际汽车新材料大会即将启航
-
“慧眼”“极目”精确探测最亮伽马射线暴_今亮点
-
世界今日报丨忽冷忽热,天气“变脸”为何如此之快
-
中国石油2022年营收3.2万亿元 创历史最好经营业绩
-
中汽协:乘用车电动化和智能化为商用车转型提供可借鉴经验_环球快播报
热文
-
心动壹刻零售新模式,点燃东方卫视《预见独角兽》舞台
-
环球微头条丨央企专业化整合 十一组项目签约
-
新单保费大增、内含价值破两千亿,太平人寿高质量发展再进一步 快看点
-
“三零”引领+“三跨”驱动的电力生产准备模式创新与实践
-
华润医药(03320)发布年度业绩 股东应占溢利41.47亿港元 同比增加10.04% 自我诊疗领域龙头地位和竞争优势进一步巩固-世界热消息
-
市场看跌的情绪转浓,猪价上涨“一日游”,发生了啥?
-
猪价下跌,万洲国际2022年中国收入下跌17.2%-环球新动态
-
天天速递!生猪以及粮食市场阴霾未散,粮食市场再次成为风口浪尖!
-
德国公共服务业工会与雇主方未能就加薪达成协议
-
突发!外媒:美军两架“黑鹰”直升机在肯塔基州坠毁-今日观点
-
美国装有1400吨甲醇驳船部分沉没 全球新消息
-
美国突发:重大事故!这次是“俄亥俄河”-每日讯息
-
【世界速看料】营造国际化一流营商环境 首届中国标准化大会今日开幕
-
便洁宝与京东五星电器达成战略合作,智能马桶引领科技新生活
-
如何与银行沟通停息挂账?自己怎么申请?
-
网贷协商停息挂账不同意怎么办?会联系家人吗? 全球快资讯
-
房贷还完了还需要办什么手续吗?房贷逾期多久银行查封房子?-天天热闻
-
天天速看:航天科工203所一室获评2022年度二院优秀青年突击队
-
文俊强,优秀声乐作品的幕后英雄
-
环球速读:生猪期货月内跌超12%,二季度生猪行情值得期待吗?
-
猪价持续磨底,各种纷繁消息不断发酵,二季度行情将如何?
-
猪价涨势突变,行情又是“一片绿”,猪价咋就涨不动?
-
环球热消息:豆粕价格止跌反弹,市场颓势有所逆转?
-
全球最资讯丨03月30日猪价:供给不断施压,猪价持续磨底,颓势何时逆转?
-
环球快播:韩总统尹锡悦财产公布!70多亿韩元在夫人名下
-
又口误?美媒:拜登参加活动对神父说,“我说的话会毁了你的名声” 世界关注
-
世界今热点:美媒:美国今年日均114人死于枪口之下 枪击案屡上头条
-
尤伦斯创始人被继子枪杀,或因继承问题纠纷
-
美国小学生携带弹药上学被发现 导致学校被封锁_热点
-
好吸收易消化奶粉排行榜哪款好?首选全新升级的伊利金领冠菁护
-
环球微速讯:如何用木头做金箍棒(孙悟空金箍棒的制作方法)
-
信用卡停息挂账怎么办理?卡还能不能用?
-
银行办理停息挂账该如何申请?要收费吗?
-
天天看热讯:浦发银行停息挂账怎么申请?申请条件是什么?
-
要做就做领头羊,君乐宝臻唯爱羊奶粉脱颖而出
-
第十三届中国国际储能大会将于5月23-26日在杭州召开
-
美国反战组织抗议蔡英文窜美:“中国不是我们的敌人!滚出我们的国家!”_天天速看料
-
巴基斯坦一检查站发生恐怖袭击 4人遇难_天天新视野
-
快报:学校通报“江西20岁女大学生失联”:经警方调查取证,证实其跳河自杀
-
【播资讯】老公欠信用卡被起诉会连累老婆吗?会冻结配偶银行卡吗?
-
网贷办理停息挂账是真的吗?影响信用吗?
-
广湛铁路漠阳江特大桥(60+96+60)米连续梁顺利合龙|聚焦
-
环球动态:03月30日猪评:猪价频频承压,行情上涨拐点迟迟未至,后市咋走?
-
菲律宾海岸警卫队:轮船起火事故暂无伤亡情况最终统计 世界简讯
-
当前观察:美贫富鸿沟越来越深
-
国际锐评 | 世界不需要制造对抗的所谓“民主峰会” 全球速看料
-
舆论观察室丨“对美国政客来说 孩子不如枪支游说团体重要”
-
全球民调:“民主灯塔”只是政治闹剧
-
苏州税收破亿元楼宇达69幢 每日视讯
-
快看点丨100亿元投入高标准农田建设