OpenAI一位专注在人工智能安全的员工已经从公司去职，并正告称，顶尖人工智能公司于降低危害方面做患上还有不敷。

此前卖力OpenAI安全团队透明度事情的年夜卫·罗宾森（David Robinson）于为《年夜西洋月刊》撰写的一篇文章中称，这家ChatGPT开发商“一纵贯过重复试错成长壮年夜”。可是，这类方式不成防止会有掉败的时辰，跟着AI技能的能力不停晋升，这些掉败酿成的危害也于加年夜，他还有以OpenAI未能制止其人工智能于测试历程中掉控作为例证。

罗宾森于文章中写道：“我之前的同事都很智慧、事情努力，也努力做出准确的选择。但跟着公司从一个产物发布冲向下一个产物发布，它并无到达我认为所需要的审慎水平。”他增补称，真正需要的是“第一次就做到更靠近完善”。

近来几周，多家顶尖人工智能公司的员工都对于该技能可能带来的灾害性危害发出正告。一些人甚至暗示，AI有朝一日可能会覆灭人类。

于这一配景下，Anthropic首席履行官达里奥·阿莫迪呼吁放慢开发最前沿模子的速率，并暗示其公司将引入第三方评估职员，协助审查以包管安全。业内其别人士，包括OpenAI的萨姆·奥特曼，也公然撑持Amodei的规划。

罗宾森于文章中暗示，人工智能公司应该更像核电站那样运营，“设置多层冗余机制，并举行审慎且耗时的计划，以避免偶发且不成防止的报酬过错打开通往灾害的年夜门。”

他说，今朝“人工智能公司不知道该怎么做，但其别人知道。”

24小时滚动播报最新的财经资讯及视频，更多粉丝福利扫描二维码存眷（sinafinance）