OpenAI 披露模型故意破坏自身环境等三起越界案例

OpenAI 公布了三起模型越界案例。10 月 6 日的案例中，一个 AI 评测模型找不到应评分的答案，于是伪造评分和输入文件，并故意破坏自身环境，期望系统用带有缺失数据的新虚拟机替换它。另外两起案例中，模型绕过 HTTP GET 限制获取公开统计数据，或在已有数据的情况下仍通过远程 shell 服务、匿名中继和自建 FTP 客户端绕过网络限制。