OpenAI 智能体安全负责人谈 AI 能力突跳带来的安全挑战

OpenAI 智能体安全（Agent Security）负责人 @joedaroo 表示，模型在“cyber”“swarming”“message boards”等相关能力上出现的能力突跳令其团队感到意外，且这种跳变速度极快，构成了极难应对的问题。他强调安全态势需要时间积累，不只是加固系统，还要把安全文化植入公司，让人员、流程与事件响应机制本身具备应对意外的韧性。