环球滚动:清华大学黄民烈团队:发布安全评估框架 促大模型迈向可控可信
2023-03-31 13:09:05 来源: 中国新闻网
(相关资料图)
中新网北京3月27日电 (贾君玉张素)记者近日采访清华大学计算机科学与技术系长聘副教授黄民烈获悉,历时两年多时间,由他带领的科研团队建立了大模型安全分类体系,并从系统层面和模型层面等打造了大模型安全框架。
近年来,随着技术突破,大模型获得快速发展并在多个场景得到应用。不过,其存在的事实性错误、知识盲区等问题,以及面临的训练数据来源合规性、生成内容安全性等风险,也已受到广泛关注。
在黄民烈看来,要规避安全风险,降低人工智能对人类的负面影响,关键在于大模型底座。“大规模语言模型(LLM)发展到现在,模型结构和规模已有很大进展,但实用性还有待加强,我们应该通过技术让模型更加安全、可控,使其快速适配更多的应用场景。”他说。
此次,聆心智能联合清华大学CoAI实验室共同发布大模型安全评估框架。作为聆心智能的创始人,黄民烈介绍说,他们希望通过对大模型应用边界进行定义,促进大模型生态健康发展,推动人工智能研究和应用向更有用、更可信、更安全迈进。
据知,黄民烈团队建立的大模型安全分类体系中设定的不安全对话场景,包括犯罪违法、身体健康、心理健康、财产隐私、歧视/偏见、辱骂/仇恨言论等方面。科研人员针对这些安全场景对大模型进行升级,使之具备基本的安全性,“能够在遇到安全问题时给予正确的回复策略,不进行判断误导”。
此外,着眼于容易触发的安全问题类型,科研团队还总结、设计出一般模型难以处理的“安全攻击方式”,使安全体系更加完善。
黄民烈表示,未来,他们将打造中文大模型的安全风险评估的Leaderboard,为国内对话大模型的安全评估提供公平公开的测试平台,并提供针对中文对话的安全场景等,“依托自身核心技术,在可控可信的超拟人大模型基础之上,通过建立安全、可控的模型边界,让人工智能提供可信、可靠的输出”。(完)
标签:
为您推荐
精彩放送
热门文章
-
焦点讯息:光明乳业与“星星的孩子”逐光同行,用爱照亮美好未来
-
今日播报!保险观察|中国人寿“八大工程”布局 白涛看好2023年人身险市场
-
新单保费大增、内含价值破两千亿,太平人寿高质量发展再进一步 快看点
-
今日播报!煤场截断万亩林场水源,林场主跪地求供水
-
等待IPO四年之久,顺德农商行上市之路变顺了吗?-天天热议
-
保险观察|中国太保:2022年“期末考”喜忧参半|全球新视野
-
每日速读!擅自拨付商品房预售资金 湖南暂停与渤海银行资金监管合作
-
焦点滚动:卓越商企服务2022年年报:规模再上新台阶,持续开拓新赛道
-
每日简讯:阳光财险:做优“长护”服务 守护“失能”人生
-
天下车智|昔日SUV亚军如今名落孙山,途观销量为何大不如前? 当前通讯
-
冲刺A股两年的湖州银行,IPO梦何时能圆? 世界播报
-
原料成本上涨盈利能力下降,“化学茅”万华化学停不下扩张步伐
精彩图片
-
环球滚动:清华大学黄民烈团队:发布安全评估框架 促大模型迈向可控可信
-
美图2022年净利润1.11亿元,研发投入同比增长7.5%
-
上海牵头启动长三角合作中医药循证研究项目 微速讯
-
牵住科技创新“牛鼻子” 全球报道
-
水结晶可以直接形成立方冰
-
简讯:英国开发出有降温效果的彩色纳米材料
-
国产数据库性能打破世界纪录_速讯
-
当前时讯:Suma发布“天阔”终端产品 覆盖企业政务办公全场景
-
2023国际汽车新材料大会在芜湖开幕 助力汽车产业高质量发展
-
世界观察:ChatGPT“狂飙”引担忧 AI发展需“备刹车”
-
工信部重点开展9项服务助力中小企业发展
-
快报:让机器人拥有“类人”触觉 东南大学成功研发超属性电子皮肤
热文
-
康师傅2022年报发布,方便面业务经营稳健,坚守高质量发展
-
美记者:大批记者抵达海湖庄园 仅有零星特朗普支持者到场
-
特朗普愤怒回应出庭受审:不指望在纽约得到公正审判!|全球聚焦
-
世界通讯!数百美国人在田纳西州议会抗议枪支暴力:救救我们的孩子
-
消息!长沙房子供作租赁住房后影响子女就读吗?官方回复了
-
微头条丨面临刑事指控!美国前总统中,他是第一个
-
当前观点:今年前两月安徽新设民营企业和个体工商户共计19.09万户
-
全球实时:印度中央邦印多尔市寺庙坍塌事故已造成35人死亡
-
环球视讯!广东社保“香港办”!首批7个在港服务点启动
-
今年前2个月河南跨境电商进出口额同比增长20.5%
-
4月1日起,京津冀三地全面取消异地就医备案 环球看点
-
杨绍貌个人简介
-
20℃的暖阳之后 4月初气温继续“跳跃式”下降_环球讯息
-
四部门发文调整新冠患者医保报销政策-天天最新
-
《甘肃省电网建设与保护条例》 5月1日起施行-天天报资讯
-
快消息!2000个岗位虚位以待 甘肃省卫生健康人才招聘会4月2日在兰举行
-
教育部同意甘肃创建数字化战略助推教育现代化示范区
-
京东白条按时还款会影响信用吗?逾期多久上信用?|微资讯
-
欠来分期9000三年没还了?逾期被起诉怎么处理?-天天观点
-
滴水贷协商还款电话是多少?逾期一天会咋样?|世界视点
-
世界信息:如果说奔驰是“老钱风”,那么 smart 如何成为电动新贵?
-
牵住科技创新“牛鼻子” 全球报道
-
水结晶可以直接形成立方冰
-
简讯:英国开发出有降温效果的彩色纳米材料
-
全年业绩296.34亿,康师傅方便面领跑行业的秘密是什么?
-
【世界热闻】打造生物环保饲料产品矩阵,新希望六和培育高质量发展新动能
-
03月31日猪评:猪价走势易跌难涨,行情转折点何时到来?
-
福建:携带电动车及其电池进电梯或至少可处500元罚款_天天速看料
-
沈阳:力争到2025年航空航天产业规模突破1200亿元
-
警惕穷兵黩武的美国(钟声)-环球焦点
-
福建省对各设区市推动工业稳增长实施正向激励
-
记者专访丨德国记者:“北溪”被炸事件显然是美国人干的
-
2微克不“微”——江西PM2.5创历史新低的背后
-
特朗普被起诉后会面临什么?美媒:可能被拍嫌犯大头照 提取指纹
-
大连:19项举措助力民营经济健康发展
-
世界观速讯丨美媒:特朗普将被起诉消息发布20分钟后 其竞选团队发出筹款邮件
-
我在博鳌丨打卡博鳌零碳示范区
-
2023年2月全国共查处违反中央八项规定精神问题5689起|世界新消息
-
四部门发文调整新冠患者医保报销政策
-
【全国秋粮收购】2022年度收购近尾声 累计超1.8亿吨
-
【焦点热闻】4.63亿元!津鲁助力甘肃实现消费帮扶“开门红”
-
【强信心 稳经济 促发展】甘肃省推动四条特色食品产业链集聚发展 全球时讯
-
提前还房贷选择缩短年限还是减少月供?需要付多少违约金?
-
今日热搜:网贷挂账停息分期可以吗?停息挂账的好处和危害?
-
公务员招录部分岗位放宽年龄 年轻人机会少了吗?
-
财政部:1-2月国有企业利润总额同比增长9.9% 世界新要闻
-
兴全货币市场证券投资基金暂停接受大额申购(含定投)、大额转换转入申请的公告
-
国产数据库性能打破世界纪录_速讯
-
3月份信贷有望延续强势增长 结构或进一步改善 世界滚动
-
环球热门:海南旅游总收入预计达530亿元