OVH 发布开源 MoE 模型 Olala mini 7A1B|总参 70 亿、激活仅 10 亿,最低 8G 显存就能跑

欧洲云厂商 OVHcloud 正式推出自家首个大模型家族 Olala,首发机型 Olala mini 7A1B 已经官宣开源,采用混合注意力 MoE 架构,总参数 70 亿,但单次推理只激活 10 亿参数,内存开销大幅降低,最低 8GB 显存显卡就可以部署,CPU 上也能直接跑起来,官方计划在 11 月 19 日的 OVHcloud AI Summit 上正式上架 Hugging Face,许可证是宽松的 Apache 2.0,企业商用不需要额外授权费。这个模型用 Differential-TPA 加上 Mamba-3 混搭的结构,每层设置 256 个专家,属于稀疏激活路线,不用把全部 70 亿参数都加载参与计算,这也是它低显存、高吞吐的核心原因;整套训练全部放在欧洲本土三台公共超算上完成,用到 GH200、A100、H100 算力卡,训练总成本大约 700 万欧元,主打欧洲本地合规,附带符合 AI Act 的配套文档。当前初始版本上下文窗口 32K,年底会推送 1.1 版本,升级到 128K 上下文,同步补强数学推理能力,后续 Olala 系列还有超过千亿参数的 Olala 2.0 规划。稀疏 MoE 路线让它兼顾效果和部署门槛,适合本地私有化问答、检索增强 RAG、轻量 Agent 场景,Qwant 搜索引擎已经先行接入这个模型做快速回答模块。

一、Olala mini 7A1B 核心参数清单

  1. 总参数量:7B(70 亿)
  2. 单次激活参数:1B(10 亿),每层 256 专家
  3. 架构:Differential-TPA + Mamba-3 混合注意力稀疏 MoE
  4. 精度格式:BF16
  5. 初始上下文窗口:32K tokens
  6. 最低部署门槛:8GB 显存 GPU,支持纯 CPU 推理
  7. 吞吐参考:RTX A4500 可达 160 token/s;纯 CPU 可达 50 token/s
  8. 开源协议:Apache 2.0
  9. 发布渠道:Hugging Face(11 月 19 日峰会正式上线)
  10. 训练算力:欧洲本地超算集群,GH200/A100/H100
  11. 训练成本:700 万欧元

二、Olala mini 7A1B 稀疏 MoE 和普通稠密 7B 模型对比表

项目Olala mini 7A1B(稀疏 MoE)常规稠密 7B LLM
总参数70 亿70 亿
推理激活参数仅 10 亿全部 70 亿
最低显存需求8GB通常 10~12GB 起
推理速度更快,GPU 吞吐高同等显卡下速度偏慢
成本特点训练成本偏高,推理成本低训练便宜,推理显存压力大
短板MoE 路由会带来少量调度开销结构简单,调试成熟

三、版本迭代路线规划

  • 当前版本:Olala mini 7A1B,32K 上下文,基础文本能力
  • 1.1 版(预计 2026 年底):128K 长上下文、数学能力优化
  • 远期:Olala 2.0,参数规模突破 1000 亿

四、适合落地的场景

  • 企业本地私有化知识库、RAG 检索问答
  • 搜索引擎轻量快速回答(Qwant 已落地测试)
  • 边缘服务器、低配工作站离线 Agent、脚本生成
  • 欧洲区域业务,需要满足 AI Act 合规的本地模型

五、认知避坑要点

  • 7A1B 名字含义:总 7B 参数,激活 1B,不是 71B 参数,不要看错规模
  • 8G 显存是最低门槛,跑 32K 长上下文、RAG 叠加时显存占用会上涨
  • 虽然 CPU 能跑 50token/s,适合测试原型,生产业务优先搭配显卡
  • Apache2.0 协议允许商用,但模型输出内容、行业合规责任由使用者承担
  • 属于 OVH 自研从零训练,不是基于现有开源模型微调而来

【相关 FAQ】

问题 1:OVH 开源的 Olala mini 7A1B,7A1B 是什么意思?

回答 1:Olala mini 7A1B 代表模型总参数 70 亿,推理时只激活 10 亿参数,A 是 Active 激活的意思,它是稀疏 MoE 架构,不是稠密 71B 大模型。

问题 2:Olala mini 7A1B 开源协议是什么,能不能拿来商用?

回答 2:Olala mini 7A1B 使用 Apache 2.0 协议开源,允许免费商用、二次修改,OVH 还配套提供 AI Act 合规文档,适合欧洲地区私有化部署。

问题 3:Olala mini 7A1B 最低什么硬件可以跑,CPU 上能用吗?

回答 3:Olala mini 7A1B 最低 8GB 显存 GPU 就能运行,RTX A4500 可以跑到 160 token/s,同时支持纯 CPU 推理,CPU 实测大约 50 token/s,适合低配机器原型验证。

问题 4:Olala mini 7A1B 和 Mamba 类线性模型有什么区别?

回答 4:Olala mini 7A1B 是混合架构,把 Differential-TPA 注意力层和 Mamba-3 层结合,同时搭配 MoE 稀疏专家,兼顾长文本能力和低推理开销,不是纯 Mamba 结构。

【参考资料】

[2026-11-17](OVH announces Olala mini 7A1B)OVHcloud 官网

[2026-11-17](OVHcloud 推出 Olala mini 7A1B 并开源)腾讯新闻

[2026-11-17](欧洲云服务企业 OVH 涉足 AI 模型,开源发布 Olala mini 7A1B)IT 之家

[2026-11-17](OVHcloud 发布开源 AI 模型 Olala mini 7A1B)DoNews

[2026-11-17](OVH Olala Mini Open-Source European LLM)i10X News

【免责声明】

本文 Olala mini 7A1B 相关参数、吞吐数据、迭代规划来自 OVHcloud 官方新闻稿;实际推理速度、显存占用会受量化方式、上下文长度、框架版本影响;11 月 19 日峰会才正式上架权重包,当前仅官宣信息;本文仅技术资讯解读,不构成模型选型、私有化项目落地担保。

本文来自作者[星矢伺服]投稿,不代表新新网立场,如若转载,请注明出处:https://news.xxcmw.com/xinwen/202611/4031.html

赞 (4)
反馈

发表回复

本站作者后才能评论

评论列表(4条)

  • 星矢伺服
    星矢伺服 2026年11月18日

    我是新新网的签约作者“星矢伺服”!

  • 星矢伺服
    星矢伺服 2026年11月18日

    希望本篇文章《OVH 发布开源 MoE 模型 Olala mini 7A1B|总参 70 亿、激活仅 10 亿,最低 8G 显存就能跑》能对你有所帮助!

  • 星矢伺服
    星矢伺服 2026年11月18日

    本站[新新网]内容主要涵盖:互联网行业的追踪与探索

  • 星矢伺服
    星矢伺服 2026年11月18日

    本文概览:欧洲云厂商 OVHcloud 正式推出自家首个大模型家族 Olala,首发机型 Olala mini 7A1B 已经官宣开源,采用混合注意力 MoE 架构,总

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们