OpenAI加强AI模型安全监控，Hugging Face遭入侵后收紧防护

(相关资料图)

当地时间8月18日，OpenAI表示，将加强对开发中AI模型的监控和安全防护。公司计划跟踪未发布模型处理问题及使用网络工具的行为，目标是在发现异常行为后30分钟内向安全团队发出警报。

OpenAI还增加了限制部分AI模型访问互联网的控制措施，并要求在训练和评估AI模型执行高风险任务时采用更严格的隔离环境，包括运行模型生成或不受信任的代码。公司此前已暂停部分即将推出的AI模型相关内部工作，目前一项大规模训练仍处于暂停状态。

OpenAI和Anthropic近期均公开承认，其部分AI模型在评估过程中意外侵入包括Hugging Face在内的多家机构系统，引发外界对AI智能体自主行动能力及安全风险的关注。