大语言模型会在蒸馏中“夹带”自己的偏好
《自然》15日发表的一项研究显示,大语言模型(LLM)可能会将某些自己的偏好“夹带私货”传授给其他算法,即使在训练数据中清除原始特征后,这些本不需要的特征,仍可能持续存在。在一个案例中,一个模型似乎通过数据中的隐含信号,将自己对猫头鹰的偏好传递给了其他模型。该研究结果表明,在开发LLM时,需要进行更彻底的安全检查。
《自然》15日发表的一项研究显示,大语言模型(LLM)可能会将某些自己的偏好“夹带私货”传授给其他算法,即使在训练数据中清除原始特征后,这些本不需要的特征,仍可能持续存在。在一个案例中,一个模型似乎通过数据中的隐含信号,将自己对猫头鹰的偏好传递给了其他模型。该研究结果表明,在开发LLM时,需要进行更彻底的安全检查。
近日,教育部、国家发展改革委、工业和信息化部、科技部、国家数据局联合印发《“人工智能+教育”行动计划》(以下简称《行动计划》),旨在一体推进人工智能人才培养和应用创新,统筹谋划基础环境和创新生态建设,系统构建智能时代的教育体系。
人民网北京4月15日电 (记者乔雪峰)近日,以“繁荣新大众文艺,共创新时代视听”为主题第十三届中国网络视听大会开幕,吸引了众多行业人士、技术专家与青年创业者,共同探讨AI浪潮下如何以新质生产力驱动行业高质量发展。 有观点认为,会议主题中的“...
人民网北京4月15日电 (记者王连香)据中国铁路沈阳局集团有限公司(以下简称国铁沈阳局)消息,4月15日,X8649次快速货运班列从国铁沈阳局管内蒲河站准时驶出,一路南下直抵上海北郊站,标志着沈阳至上海跨局快速货运班列正式开通运营。这趟班列...
人民网北京4月15日电 (记者王连香)记者从中国国家铁路集团有限公司获悉,2026年铁路“五一”假期运输自4月29日开始,至5月6日结束。其中,4月29日火车票今日开售。 据介绍,今年“五一”期间,预计探亲访友、旅游踏青、休闲度假等出行需求...
人民网北京4月15日电 (记者杜燕飞)中国人民银行14日发布的公告显示,为保持银行体系流动性充裕,4月15日,中国人民银行将以固定数量、利率招标、多重价位中标方式开展5000亿元买断式逆回购操作,期限为6个月(183天)。 买断式逆回购于2...
人民网北京4月15日电 (记者郝帅)据国家市场监管总局网站消息,近期,市场监管总局(国家标准委)批准发布6项建筑材料消防安全国家标准,为建筑防火材料质量测试与评价提供技术支撑,从源头上保障人民群众生命财产安全、促进建材行业高质量发展。 其中...

人民网北京4月15日电 (记者栗翘楚)4月15日,在我国第11个“全民国家安全教育日”到来之际,海关总署召开新闻发布会,介绍一季度国门生物安全防控工作。 海关是守护国家生物安全的第一道防线。4月13日,海关总署联合农业农村部、自然资源部、生...

在蔬菜之乡山东潍坊寿光市,种子来源曾长期依赖进口。多年来,寿光市在破解种子“卡脖子”难题上攻坚发力,越来越多寿光蔬菜拥有了“中国芯”。
日前,伴随2025年度报告密集披露,大中型商业银行在数字金融领域的战略布局与实施成效浮出水面。