每日讯息!大语言模型会在蒸馏中“夹带”自己的偏好
财联社
2026-04-16 07:12:39
(资料图)
财联社4月16日电，《自然》15日发表的一项研究显示，大语言模型（LLM）可能会将某些自己的偏好“夹带私货”传授给其他算法，即使在训练数据中清除原始特征后，这些本不需要的特征，仍可能持续存在。在一个案例中，一个模型似乎通过数据中的隐含信号，将自己对猫头鹰的偏好传递给了其他模型。该研究结果表明，在开发LLM时，需要进行更彻底的安全检查。
责任编辑：325
热点新闻
营业执照公示信息