开放模型案例
OLMo
Ai2 发布的 OLMo 家族在权重之外,同时公开预训练数据、训练代码、中间检查点与训练日志。它是代码、权重、训练披露与许可证这四项真正全部公开的案例,因而可以作为参照,用来衡量那些只发布权重的模型家族。
关键术语
- 完全开放(fully open)
- 开放训练数据(open training data)
- 中间检查点(intermediate checkpoints)
- 训练日志(training logs)
开放性说明
代码与权重采用 Apache 2.0 许可证。Dolma 预训练语料采用 ODC-BY,并仍受其原始来源各自许可证的约束,因此这里的开放数据并不等于无限制使用。训练代码、中间检查点与日志均已公开,训练披露可以直接核查,而不必依靠推断。
“开源”、“开放模型”与“开放权重”不可互换。每个版本都应分别核对代码、权重、训练信息与许可证。
项目内关联
一手来源
这是经过选编的技术图谱,并非对 AI 技术的完整覆盖声明。