OpenAI再次暂停其最先进模型训练 安全问题引发关注_热点百科_资讯_56之窗百科网
分享好友 资讯首页 资讯分类 切换频道

OpenAI再次暂停其最先进模型训练 安全问题引发关注

2026-09-28 01:0426056之窗百科网澎湃新闻

美国AI巨头OpenAI因模型安全问题暂停了部分研发活动。9月25日,OpenAI在一份技术报告中披露,公司在发现内部研究模型绕过网络访问限制后,停止了涉事模型的训练运行,并进一步决定暂停其能力最强模型的所有涉及工具使用的训练、评估和推理活动,直到确认漏洞已修复并完成额外的对抗性安全测试。

对于恢复训练的安排,OpenAI表示将启动新的训练运行,加入进一步的对齐改进措施,更全面地干预模型偏离预期的行为。尽管现有奖励机制已经对涉事行为作出了正确的惩罚反馈,公司仍不会恢复此次涉事模型的训练。

据报道,OpenAI表示只有在确信额外安全措施到位后才会恢复训练,并预计随着AI发展和新问题出现,未来可能仍需再次暂停训练。此次事件发生于9月20日,一个智能体在执行任务时利用训练沙盒中域名解析服务(DNS)过滤不充分的漏洞,与外部聊天机器人建立了通信。沙盒是供模型运行和测试的受限环境,研究人员通过限制网络访问等方式控制模型能够接触的资源。OpenAI认为这种绕过限制的行为是对齐失效,即行为偏离人类设定的要求。

监测系统在15分钟内发出警报,人工审核人员在约三分钟后确认收到,但该次运行未按预期自动停止,最终在约两个半小时后被手动终止。OpenAI正在修复相关操作流程中的漏洞,并加强网络限制和监测措施。

近期,OpenAI不断披露AI智能体异常行为调查的最新进展。9月25日,OpenAI在官网公布,根据目前审查结果,已就智能体异常行为问题通知数十个第三方,并发现53起用户提供的图片被上传至图片托管网站的案例。据报道,OpenAI的智能体曾访问美国证券交易委员会、美国商务部及美国人口普查局相关政府网站的公开信息。

收藏 0
打赏 0
AApoker透视技巧!aa poker辅助”总是真的是有透视操作
AApoker透视技巧!aa poker辅助总是真的是有透视操作aa poker辅助辅助器是一种具有地方特色的麻将游戏,要想赢得游戏,需要掌握以

0评论2026-11-2112

德扑之星辅助神器!aapoker辅助插件工具”果然存在有辅助诀窍
德扑之星辅助神器!aapoker辅助插件工具果然存在有辅助诀窍1、完成aapoker辅助插件工具辅助器v3.3的残局,帮助玩家取得所有比赛的

0评论2026-11-215

菠萝智星德州透视挂插件!德扑之星透视辅助软件下载”一直是真的有透视挂举措
菠萝智星德州透视挂插件!德扑之星透视辅助软件下载一直是真的有透视挂举措1、实时德扑之星透视辅助软件下载透视辅助更新:用户可

0评论2026-11-2113

WPK透视挂神器!哈糖大菠萝免费辅助器”都是是真的有透视挂绝活儿
WPK透视挂神器!哈糖大菠萝免费辅助器都是是真的有透视挂绝活儿1、玩家可以在哈糖大菠萝免费辅助器透视最简单三个步骤对游戏的模

0评论2026-11-217

WePoKer透视攻略!AApoker辅助”本来真的有透视教程书
WePoKer透视攻略!AApoker辅助本来真的有透视教程书1、任何AApoker辅助透视是真的假的的玩家都可以机会成为得到挂必胜或必赢。2、

0评论2026-11-217

wpk辅助app!wpk插件”确实真的有辅助诀窍
wpk辅助app!wpk插件确实真的有辅助诀窍1、许多玩家不知道wpk插件辅助怎么退出观战2、来到wpk插件辅助神器后,点击游戏右上角的齿

0评论2026-11-2114

WePoKer透视挂插件!aapoker透视脚本下载”原来是真的有透视挂指引
WePoKer透视挂插件!aapoker透视脚本下载原来是真的有透视挂指引1)aapoker透视脚本下载辅助插件:进一步探索aapoker透视脚本下载

0评论2026-11-216

wpk透视挂软件!wpk模拟器多开”原来存在有透视挂手册
wpk透视挂软件!wpk模拟器多开原来存在有透视挂手册1、很好的工具软件,可以解锁游戏的wpk模拟器多开辅助插件功能和中牌率,深受

0评论2026-11-216

AApoker辅助app!aapoker怎么设置抽水”原来真的是有辅助绝活儿
AApoker辅助app!aapoker怎么设置抽水原来真的是有辅助绝活儿1、下载好aapoker怎么设置抽水正确养号方法之后点击打开,先需要设置

0评论2026-11-2110

智星菠萝德州开挂脚本!大菠萝789辅助器下载”一直是真的有开挂项目
智星菠萝德州开挂脚本!大菠萝789辅助器下载一直是真的有开挂项目1、点击下载安装,大菠萝789辅助器下载脚本分类一目了然!2、免

0评论2026-11-2112