欧洲云厂商 OVHcloud 正式推出自家首个大模型家族 Olala,首发机型 Olala mini 7A1B 已经官宣开源,采用混合注意力 MoE 架构,总参数 70 亿,但单次推理只激活 10 亿参数,内存开销大幅降低,最低 8GB 显存显卡就可以部署,CPU 上也能直接跑起来,官方计划在 11 月 19 日的 OVHcloud AI Summit 上正式上架 Hugging Face,许可证是宽松的 Apache 2.0,企业商用不需要额外授权费。这个模型用 Differential-TPA 加上 Mamba-3 混搭的结构,每层设置 256 个专家,属于稀疏激活路线,不用把全部 70 亿参数都加载参与计算,这也是它低显存、高吞吐的核心原因;整套训练全部放在欧洲本土三台公共超算上完成,用到 GH200、A100、H100 算力卡,训练总成本大约 700 万欧元,主打欧洲本地合规,附带符合 AI Act 的配套文档。当前初始版本上下文窗口 32K,年底会推送 1.1 版本,升级到 128K 上下文,同步补强数学推理能力,后续 Olala 系列还有超过千亿参数的 Olala 2.0 规划。稀疏 MoE 路线让它兼顾效果和部署门槛,适合本地私有化问答、检索增强 RAG、轻量 Agent 场景,Qwant 搜索引擎已经先行接入这个模型做快速回答模块。
一、Olala mini 7A1B 核心参数清单
- 总参数量:7B(70 亿)
- 单次激活参数:1B(10 亿),每层 256 专家
- 架构:Differential-TPA + Mamba-3 混合注意力稀疏 MoE
- 精度格式:BF16
- 初始上下文窗口:32K tokens
- 最低部署门槛:8GB 显存 GPU,支持纯 CPU 推理
- 吞吐参考:RTX A4500 可达 160 token/s;纯 CPU 可达 50 token/s
- 开源协议:Apache 2.0
- 发布渠道:Hugging Face(11 月 19 日峰会正式上线)
- 训练算力:欧洲本地超算集群,GH200/A100/H100
- 训练成本:700 万欧元
二、Olala mini 7A1B 稀疏 MoE 和普通稠密 7B 模型对比表
| 项目 | Olala mini 7A1B(稀疏 MoE) | 常规稠密 7B LLM |
|---|---|---|
| 总参数 | 70 亿 | 70 亿 |
| 推理激活参数 | 仅 10 亿 | 全部 70 亿 |
| 最低显存需求 | 8GB | 通常 10~12GB 起 |
| 推理速度 | 更快,GPU 吞吐高 | 同等显卡下速度偏慢 |
| 成本特点 | 训练成本偏高,推理成本低 | 训练便宜,推理显存压力大 |
| 短板 | MoE 路由会带来少量调度开销 | 结构简单,调试成熟 |
三、版本迭代路线规划
- 当前版本:Olala mini 7A1B,32K 上下文,基础文本能力
- 1.1 版(预计 2026 年底):128K 长上下文、数学能力优化
- 远期:Olala 2.0,参数规模突破 1000 亿
四、适合落地的场景
- 企业本地私有化知识库、RAG 检索问答
- 搜索引擎轻量快速回答(Qwant 已落地测试)
- 边缘服务器、低配工作站离线 Agent、脚本生成
- 欧洲区域业务,需要满足 AI Act 合规的本地模型
五、认知避坑要点
- 7A1B 名字含义:总 7B 参数,激活 1B,不是 71B 参数,不要看错规模
- 8G 显存是最低门槛,跑 32K 长上下文、RAG 叠加时显存占用会上涨
- 虽然 CPU 能跑 50token/s,适合测试原型,生产业务优先搭配显卡
- Apache2.0 协议允许商用,但模型输出内容、行业合规责任由使用者承担
- 属于 OVH 自研从零训练,不是基于现有开源模型微调而来
【相关 FAQ】
问题 1:OVH 开源的 Olala mini 7A1B,7A1B 是什么意思?
回答 1:Olala mini 7A1B 代表模型总参数 70 亿,推理时只激活 10 亿参数,A 是 Active 激活的意思,它是稀疏 MoE 架构,不是稠密 71B 大模型。
问题 2:Olala mini 7A1B 开源协议是什么,能不能拿来商用?
回答 2:Olala mini 7A1B 使用 Apache 2.0 协议开源,允许免费商用、二次修改,OVH 还配套提供 AI Act 合规文档,适合欧洲地区私有化部署。
问题 3:Olala mini 7A1B 最低什么硬件可以跑,CPU 上能用吗?
回答 3:Olala mini 7A1B 最低 8GB 显存 GPU 就能运行,RTX A4500 可以跑到 160 token/s,同时支持纯 CPU 推理,CPU 实测大约 50 token/s,适合低配机器原型验证。
问题 4:Olala mini 7A1B 和 Mamba 类线性模型有什么区别?
回答 4:Olala mini 7A1B 是混合架构,把 Differential-TPA 注意力层和 Mamba-3 层结合,同时搭配 MoE 稀疏专家,兼顾长文本能力和低推理开销,不是纯 Mamba 结构。
【参考资料】
[2026-11-17](OVH announces Olala mini 7A1B)OVHcloud 官网
[2026-11-17](OVHcloud 推出 Olala mini 7A1B 并开源)腾讯新闻
[2026-11-17](欧洲云服务企业 OVH 涉足 AI 模型,开源发布 Olala mini 7A1B)IT 之家
[2026-11-17](OVHcloud 发布开源 AI 模型 Olala mini 7A1B)DoNews
[2026-11-17](OVH Olala Mini Open-Source European LLM)i10X News
【免责声明】
本文 Olala mini 7A1B 相关参数、吞吐数据、迭代规划来自 OVHcloud 官方新闻稿;实际推理速度、显存占用会受量化方式、上下文长度、框架版本影响;11 月 19 日峰会才正式上架权重包,当前仅官宣信息;本文仅技术资讯解读,不构成模型选型、私有化项目落地担保。
本文来自作者[星矢伺服]投稿,不代表新新网立场,如若转载,请注明出处:https://news.xxcmw.com/xinwen/202611/4031.html
评论列表(4条)
我是新新网的签约作者“星矢伺服”!
希望本篇文章《OVH 发布开源 MoE 模型 Olala mini 7A1B|总参 70 亿、激活仅 10 亿,最低 8G 显存就能跑》能对你有所帮助!
本站[新新网]内容主要涵盖:互联网行业的追踪与探索
本文概览:欧洲云厂商 OVHcloud 正式推出自家首个大模型家族 Olala,首发机型 Olala mini 7A1B 已经官宣开源,采用混合注意力 MoE 架构,总