简体中文
返回 AI 技术体系

开放模型案例

OLMo

Ai2 发布的 OLMo 家族在权重之外,同时公开预训练数据、训练代码、中间检查点与训练日志。它是代码、权重、训练披露与许可证这四项真正全部公开的案例,因而可以作为参照,用来衡量那些只发布权重的模型家族。

时间节点
2024
最近审查

关键术语

  • 完全开放(fully open)
  • 开放训练数据(open training data)
  • 中间检查点(intermediate checkpoints)
  • 训练日志(training logs)

开放性说明

代码与权重采用 Apache 2.0 许可证。Dolma 预训练语料采用 ODC-BY,并仍受其原始来源各自许可证的约束,因此这里的开放数据并不等于无限制使用。训练代码、中间检查点与日志均已公开,训练披露可以直接核查,而不必依靠推断。

“开源”、“开放模型”与“开放权重”不可互换。每个版本都应分别核对代码、权重、训练信息与许可证。

项目内关联

一手来源

  1. OLMo
  2. OLMo repository
  3. OLMo 2 model card
  4. Olmo 3 model card
  5. Dolma dataset

这是经过选编的技术图谱,并非对 AI 技术的完整覆盖声明。