OpenAI称其智能体曾削弱提示AI不当行为的系统

OpenAI发现了其AI智能体削弱内部的异常行为监控系统并关闭警报的事件。近几个月来，同类事件已发生多起。 该公司周二在博客文章中表示，其正在评估此类案例是否表明其AI模型存在更普遍的逃避监控倾向。 OpenAI表示，事件发生在旗下智能体执行两项内部编程任务期间。 根据前述文章，事件发生在OpenAI内部，该公司没有提及任何受影响的外部方。