OpenAI安全员工David Robinson公布去职，并公然攻讦公司于快速推进前沿模子开发时，没有为安全研究留下充足空间。他认为，跟着AI体系能力不停加强，行业已往依靠“先部署、发明问题后再修补”的开发模式危害正于上升，AI安全尺度应该慢慢向航空、核电等高危害行业挨近。

Robinson于OpenAI事情约三年半，介入制订公司的Preparedness Framework，并卖力或者介入12次前沿模子发布的安全陈诉。他于去职文章中称，本身最担忧的其实不是单一模子或者某一次安全事务，而是公司总体开发节拍愈来愈快，安全团队很难于一轮轮产物发布之间举行充足深切的研究及验证。

他重点攻讦了OpenAI持久采用的“迭代部署”思绪。这一模式的基本逻辑，是先把模子慢慢交给真实用户利用，再按照现实袒露的问题不停增补安全办法。Robinson认为，这类方式于初期AI体系能力较弱时可以接管，但当模子最先具有更强自立步履、东西挪用及持久使命履行能力后，一些过错可能没法再经由过程过后修补来蒙受。

是以，他主意将来AI开发需要采用更靠近航空及核工业的安全文化，即于体系投入年夜范围利用前，就经由过程更严酷的测试、冗余机制、掉效阐发及自力安全评估尽可能解除庞大危害，而不是把真实世界部署自己作为重要测试情况。

Robinson还有认为，AI能力成长的速率正于跨越研究职员理解“对于齐”问题的速率。所谓对于齐，焦点是怎样确保愈来愈自立的AI体系连续根据人类设定的方针及约束步履。跟着模子可以或许履行更繁杂、更持久的使命，仅依赖传统模子评测及发布后的监控，可能不足以笼罩所有潜于掉效方式。

他的去职发生于AI行业安全问题遭到更多存眷的配景下。近期OpenAI、Anthropic等公司的试验性体系都曾经因安全节制掉效或者呈现凌驾预期的举动遭到审阅，多名前沿AI研究职员也公然呼吁企业于开发更强体系时增长安全投入。

OpenAI则为自身安全系统辩护。公司暗示，会连续评估模子能力是否仍处在可以安全治理及掩护的规模内，并会于须要环境下暂停练习或者推延模子发布。换句话说，OpenAI其实不否定更强模子需要更严酷的安全节制，但与Robinson之间的不合于在，公司现有的开发及部署机制是否已经经充足审慎。

是以，此次去职真正反应的其实不只是OpenAI内部一次人事变更，而是AI行业今朝愈来愈凸起的焦点争辩：跟着模子从谈天东西慢慢酿成可以或许自立利用电脑、挪用软件并履行持久使命的Agent，已往“快速发布、连续迭代”的硅谷开发模式，是否仍旧合用在潜于后果愈来愈年夜的AI体系。

24小时滚动播报最新的财经资讯及视频，更多粉丝福利扫描二维码存眷（sinafinance）