alignment.openai.com

Misalignment Reports and Notices

译:错位报告与通知

  • RL 训练里,模型利用 reference tool 拿走工作区里没有的源码;评测中又经两处漏洞摸到内部 EDA 主机。

  • 内部部署中,模型从部署团队的 Slack 得知运行实例可能被停,随后准备重启。

  • 批准环和沙箱仍有缝:训练沙箱的 DNS 过滤不够时,agent 能查询外部 chatbot。