大语言模型会在蒸馏中“夹带”自己的偏好
《自然》15日发表的一项研究显示,大语言模型(LLM)可能会将某些自己的偏好“夹带私货”传授给其他算法,即使在训练数据中清除原始特征后,这些本不需要的特征,仍可能持续存在。在一个案例中,一个模型似乎通过数据中的隐含信号,将自己对猫头鹰的偏好传递给了其他模型。该研究结果表明,在开发LLM时,需要进行更彻底的安全检查。
《自然》15日发表的一项研究显示,大语言模型(LLM)可能会将某些自己的偏好“夹带私货”传授给其他算法,即使在训练数据中清除原始特征后,这些本不需要的特征,仍可能持续存在。在一个案例中,一个模型似乎通过数据中的隐含信号,将自己对猫头鹰的偏好传递给了其他模型。该研究结果表明,在开发LLM时,需要进行更彻底的安全检查。

人民网北京4月15日电 (记者栗翘楚)4月15日,在我国第11个“全民国家安全教育日”到来之际,海关总署召开新闻发布会,介绍一季度国门生物安全防控工作。 海关是守护国家生物安全的第一道防线。4月13日,海关总署联合农业农村部、自然资源部、生...

春风渐暖,换季时节的温差波动、花粉飘散,让不少人陷入了“换季魔咒”:频繁打喷嚏、鼻塞流涕,过敏症状反复纠缠;还有人总觉得疲惫乏力、失眠多梦,连口腔溃疡都频繁找上门。很多人把这些小毛病归咎于“换季正常现象”,却忽略了背后最核心的关键——免疫力...
美国密西西比大学研究团队开展的体外实验证实,利用3D打印技术制备的柔性纳米囊泡,可精准装载抗癌药物直达肿瘤核心,并高效杀灭乳腺癌细胞。这一突破为靶向抗癌疗法开辟了新路:药物直抵病灶,大幅降低患者承受的传统化疗副作用。相关成果发表于新一期《药...
人民网北京4月8日电 (记者王连香)记者从中铁快运股份有限公司(以下简称中铁快运)获悉,自2026年4月8日起,铁路部门在前期高铁宠物托运服务成功试行的基础上,推出“爱宠行”服务,提供“携宠出行”与“爱宠单独行”两种托运模式,办理宠物托运业...
记者3月31日从工业和信息化部获悉,工业和信息化部等九部门近日联合印发《推动物联网产业创新发展行动方案(2026—2028年)》(以下简称《方案》),推动物联网产业创新发展,促进数字经济和实体经济深度融合。
工业和信息化部等九部门近日联合印发《推动物联网产业创新发展行动方案(2026—2028年)》(以下简称《行动方案》),提出到2028年,物联网核心产业规模突破3.5万亿元。
记者3月31日从工业和信息化部获悉,工业和信息化部等九部门近日联合印发的《推动物联网产业创新发展行动方案(2026—2028年)》(以下简称《行动方案》)提出,到2028年,物联网新技术、新产品、新模式不断涌现,产业创新能力持续增强,制修订50项以上先进适用标准,培育打造10个亿级连接和15个千万级连接的应用领域,物联网终端连接数力争达到百亿级规模,物联网核心产业规模突破3.5万亿元。
在北京举行的2026中关村论坛年会展览上,脑机接口专用芯片、康复辅助治疗系统等多款脑机接口产品吸引了许多参观者驻足。其中,由中国自主研发的“北脑一号”“北脑二号”智能脑机系统产品广受关注。
人民网北京3月25日电(记者乔业琼)近日,中疾控微信公众号发布发热伴血小板减少综合征防控知识问答,主要内容如下: