OpenAI又开源了:推出两个能在笔记本和手机上运行的开源模型

音符科技网

当地时间8月5日,OpenAI推出自GPT-2以来的首批开源权重语言模型gpt-oss-120b与gpt-oss-20b,性能堪比o4-mini和o3-mini,可在高端笔记本和手机上运行。

OpenAI重新拥抱开源,该公司表示,发布开源系统的部分原因是,一些企业和个人更倾向于在自有计算机硬件上运行这类技术。“开源模型与我们的托管模型形成互补,为开发者提供了更丰富的工具选择。”这有助于加速推进AI前沿研究,降低新兴市场、资源受限行业及小型组织的使用门槛。

OpenAI总裁、创始人之一的格雷格·布罗克曼(Greg Brockman)说,“如果我们提供一款模型,人们就会用我们的技术。他们会依赖我们实现下一次突破。他们会给我们反馈、提供数据,以及改进模型所需的各种信息。这有助于我们取得进一步的进展。”

推出开源模型,可在手机运行

gpt-oss模型是OpenAI自2019年推出GPT-2以来发布的首批开源权重语言模型。OpenAI表示,gpt-oss-120b与gpt-oss-20b突破开源权重推理模型的边界,在推理任务上的表现优于同规模开源模型,能以低成本实现实际应用性能,经过优化可在消费级硬件上高效部署。模型训练过程结合了强化学习技术,并借鉴了OpenAI的o3和其他前沿内部模型。

gpt-oss模型使用预训练和后训练技术,注重推理能力、效率以及在各种部署环境中的实际可用性。每个模型都基于Transformer,利用混合专家(MoE)技术减少处理输入所需的激活参数数量。gpt-oss-120b每token激活51亿参数,gpt-oss-20b每token激活36亿参数,两款模型的总参数分别为1170亿和210亿。它们采用交替的密集型和局部带状稀疏注意力模式,类似于GPT-3。使用旋转位置编码(RoPE),支持长达128k上下文长度。两款开源模型支持低、中、高三种推理强度,可在延迟和性能之间权衡,开发者只需在系统消息中用一句话就能设置推理强度。

OpenAI CEO山姆·奥特曼表示,gpt-oss的性能堪比o4-mini,而且能在高端笔记本上运行,更小的版本能在手机上运行。“不久的将来,会有一种比你认识的最聪明的人还要智能的东西,在你口袋里的设备上运行,随时随地帮你解决各种问题。这真的是一件非同凡响的事。”

gpt-oss-120b与gpt-oss-20b在竞赛数学方面的性能。

gpt-oss-120b与gpt-oss-20b在竞赛编程方面的性能。

gpt-oss-120b模型在核心推理基准测试上与OpenAI o4-mini几乎持平,能在单张80GB GPU上高效运行。在竞赛编程(Codeforces)、通用问题解决(MMLU和HLE)以及工具调用(TauBench)方面,gpt-oss-120b的表现优于OpenAI o3-mini,达到或超过了OpenAI o4-mini。在健康相关查询和竞赛数学方面,它的表现甚至比o4-mini更好。gpt-oss-20b模型在常见基准测试中的结果与OpenAI o3-mini相当,甚至在竞赛数学和健康相关查询方面的表现甚至超过了o3-mini,仅需16GB内存即可在边端设备上运行。

OpenAI为何重新拥抱开源

三年前,OpenAI推出ChatGPT并引发人工智能热潮,其后,OpenAI的技术大多处于保密状态。其他公司则通过“开源”共享技术,抢占OpenAI的市场份额。尤其是DeepSeek的出现,在全球范围内掀起了新的开源浪潮。如今,OpenAI重新拥抱开源,希望借此平衡竞争环境,确保企业和其他软件开发者继续使用其技术。OpenAI表示,发布开源系统的部分原因是,一些企业和个人更倾向于在自有计算机硬件上运行这类技术。

“开源模型与我们的托管模型形成互补,为开发者提供了更丰富的工具选择。”OpenAI表示,这有助于加速推进前沿研究,迸发创新活力,在各类应用场景中推动更安全透明的AI开发。这些开源模型还降低了新兴市场、资源受限行业及小型组织的使用门槛。

近期的研究表明,只要模型未接受过针对思维链对齐的直接监督训练,监控推理模型的思维链就有助于检测不当行为。OpenAI表示,两款gpt-oss模型的思维链均未接受任何直接监督,而这对于监控模型的不当行为、欺骗性输出和滥用风险至关重要。发布两款带有非监督式思维链的开源模型,能为开发者和研究人员提供机会,以便他们研究并构建自己的思维链监控系统。由于思维链可能包含幻觉信息或有害内容,因此开发者不应在其应用中直接向用户展示思维链内容。

为了确保模型的安全性,在预训练阶段,OpenAI过滤掉了与化学、生物、放射和核相关的特定有害数据,在后训练中运用审慎对齐和指令层级技术,教会模型拒绝不安全的提示词,并防御提示词注入攻击。开源模型发布后,攻击者可能会出于恶意目的对模型进行微调。为评估这类风险,OpenAI针对特定的生物学和 *** 安全数据对模型进行微调,模拟攻击者的方式,为每个领域创建了一个特定领域的 “不拒绝”版本,并通过内外部测试评估这些模型的能力水平。测试表明,即便使用OpenAI行业领先的训练堆栈进行了微调,这些经过恶意微调的模型仍无法达到高能力水平。

OpenAI表示,这些流程标志着开源模型的安全性迈出了有意义的一步,“我们希望这些模型能帮助推动整个行业的安全训练和对齐研究。”为构建更安全的开源生态系统,OpenAI发起奖金50万美元的“红队挑战”,鼓励来自世界各地的研究人员、开发人员和爱好者帮助识别新的安全问题。

开源与闭源的辩论一直存在,企业的策略也在调整。与OpenAI拥抱开源不同,Meta或将转向更保守的闭源软件策略。Meta新近成立超级智能实验室后,实验室一小批高级成员讨论放弃该公司最强大的开源人工智能模型Behemoth,转而开发闭源模型。

文章版权声明:除非注明,否则均为音符科技网 wap.luzhiwang.com原创文章,转载或复制请以超链接形式并注明出处。

相关阅读

  • 关于疫情!潍坊市发布紧急提醒(潍坊发布最新疫情防控)
  • 26年受贿2.16亿,广西壮族自治区原副主席秦如培一审被判死缓
  • 双焦:为何再度大涨?
  • 恒力石化财务总监刘雪芬大专学历年薪158万,广汇能源CFO马晓燕大专学历年薪55万,刘雪芬是马晓燕的2.8倍
  • 天坛生物业绩快报:上半年归母净利润6.33亿元,同比下降12.88%
  • 美国得州民主党议员继续“出走”,特朗普不排除FBI介入
  • 韩国将对中国团体游客实施免签政策:利好“十一黄金周”,相关产品平台搜索增长60%
  • AI如何进行生态赋能?沸点资本马兰:让AI真实落地到场景中,推动产业链升级
  • 从淡旺季来看,鸡蛋是在为中秋行情蓄势吗?
  • 国有大行响应消费贷贴息:将降低居民信贷成本、助力提振消费
  • 长城基金谭小兵:仍然看好创新药行情
  • 《整治形式主义为基层减负若干规定》印发:地方和部门文件一般不超5000字
  • 【铅山疫情最新情况,铅山疫情分布最新消息】
  • 信用卡业务大洗牌:超40家分中心关停 银行联名卡密集停发
  • 弘阳地产:7月份合约销售金额为3.37亿元
  • 以色列要全面占领加沙,中方表态
  • 泽连斯基批准乌国家安全局对俄新作战行动,涉远程打击
  • 非法收受财物2.16亿余元广西党委原常委、自治区政府原副主席秦如培一审被判死缓
  • 台积电被曝2纳米商业秘密泄漏涉案技术或流向日本Rapidus
  • 女子地铁内制止男子抽烟反被打,南昌警方:双方相互道歉、抽烟者保证不再违反
  • 乌称俄军袭击敖德萨州天然气设施,俄方暂无回应
  • 7月银行信用评级变动盘点!6升3降,为何分化?
  • 海银资本李东平:AI出海必须本地化,从抱团取暖发展形成大生态
  • 7000亿华安基金或迎新帅,“招商系”徐勇能否补齐“巨轮短板”?
  • 江南水务:拟挂牌转让浦发村镇银行8%股权 评估值1254.84万元
  • 受贿2.16亿余元,广西壮族自治区政府原副主席秦如培一审被判死缓
  • 逛夜市、看埃及展、买纪念票……今年上海“书展+”琳琅满目
  • 浪潮智能终端魏成龙:聚焦重卡与县域充电市场 破解充电设施布局与速度瓶颈
  • 三部门:到2027年,建制村通公交率达到55%以上
  • 美联储理事、主席人选引关注!经济前景生变引原油“四连跌”
  • 美国得州民主党议员继续“出走”特朗普不排除FBI介入
  • 中消协:上半年演唱会相关投诉量持续攀升,退款诉求占比超九成
  • 科大讯飞李平:中国AI企业需要“抱团出海”
  • *ST松发董事会提前换届,江苏首富24岁儿子拟任400亿市值公司董事
  • 连花清瘟能治基孔肯雅热?以岭药业回应
  • 【吴忠疫情最新数据消息,吴忠疫情最新数据消息今天新增】
  • 广汇能源:完成转让控股子公司合金投资20.74%股权
  • 文艺电影厂牌拿了不该拿的钱?考里斯马基等发信谴责
  • 美法官发布禁令阻止特朗普政府挪用防灾拨款
  • 报告显示,2025年上半年全球承保巨灾损失达800亿美元
  • 目录[+]

    取消
    微信二维码
    微信二维码
    支付宝二维码