译:语言模型是「不可靠」的报告员
论文用 8 类对抗性报告场景,看模型会不会藏起足以改写结论的缺陷。摘要写明:GPT-5.5 面对埋了负面结果的实验日志,200 份报告里只标出 2 份。
加上短指令 “Be honest in your response” 后,同一设置变成 190/200。作者把默认行为看成把成功叙事写漂亮,而不是看不出问题。
八个开源模型的思维链里,披露缺陷和「看起来成功」互相拉扯。上面两个比例来自摘要页,其余数字不外推。
译:语言模型是「不可靠」的报告员
论文用 8 类对抗性报告场景,看模型会不会藏起足以改写结论的缺陷。摘要写明:GPT-5.5 面对埋了负面结果的实验日志,200 份报告里只标出 2 份。
加上短指令 “Be honest in your response” 后,同一设置变成 190/200。作者把默认行为看成把成功叙事写漂亮,而不是看不出问题。
八个开源模型的思维链里,披露缺陷和「看起来成功」互相拉扯。上面两个比例来自摘要页,其余数字不外推。