译:OpenAI 安全负责人离职,称公司文化已经「坏了」
David Robinson 负责随产品发布撰写安全报告。他在 The Atlantic 写道:要谈的不是单条规则或新法,而是文化。
公司从一个发布冲向下一个,达不到他认为需要的谨慎;他把打向 Hugging Face 的 agent「swarm」看成这种速度下的典型。
他主张前沿实验室按核电站或繁忙机场来运转:冗余、耗时的计划,以及能在系统自主运行时把它拉回来的新方法。
译:OpenAI 安全负责人离职,称公司文化已经「坏了」
David Robinson 负责随产品发布撰写安全报告。他在 The Atlantic 写道:要谈的不是单条规则或新法,而是文化。
公司从一个发布冲向下一个,达不到他认为需要的谨慎;他把打向 Hugging Face 的 agent「swarm」看成这种速度下的典型。
他主张前沿实验室按核电站或繁忙机场来运转:冗余、耗时的计划,以及能在系统自主运行时把它拉回来的新方法。