OpenAI无视了员工关于安全投入不足的警告

员工和安全研究人员表示,他们曾就安全测试AI模型、加强公司基础设施向该公司提出警告,但OpenAI没有听取。

OpenAI无视了员工关于安全投入不足的警告
OpenAI员工说,日常安全决策多由公司总裁格雷格·布罗克曼做出,而首席执行官萨姆·奥尔特曼并不深度参与安全事务。

在OpenAI的人工智能失控的几个月前,两名员工曾向高管发出警报。他们被无视了。

根据本报看到的邮件,这两名员工在邮件中说,他们担心OpenAI最新的人工智能模型在测试期间没有得到适当的监控,既无法评估该技术的复杂程度,也无法确保模型的安全。

作为回应,OpenAI的高管告诉员工,测试必须尽快推进,以确保AI模型按时发布。这两名员工说,没有制定任何新的安全规程;他们未获授权就敏感问题公开发言。