繁體中文
返回 AI 技術體系

開放模型案例

OLMo

Ai2 發布的 OLMo 家族在權重之外,同時公開預訓練資料、訓練程式碼、中間檢查點與訓練紀錄。它是程式碼、權重、訓練揭露與授權條款這四項真正全部公開的案例,因而可以作為參照,用來衡量那些只發布權重的模型家族。

時間節點
2024
最近審查

關鍵術語

  • 完全開放(fully open)
  • 開放訓練資料(open training data)
  • 中間檢查點(intermediate checkpoints)
  • 訓練日誌(training logs)

開放性說明

程式碼與權重採用 Apache 2.0 授權。Dolma 預訓練語料採用 ODC-BY,並仍受其原始來源各自授權條款的約束,因此這裡的開放資料並不等於無限制使用。訓練程式碼、中間檢查點與紀錄均已公開,訓練揭露可以直接查核,而不必依靠推斷。

「開源」、「開放模型」與「開放權重」不可互換。每個版本都應分別核對程式碼、權重、訓練資訊與授權條款。

專案內關聯

第一手來源

  1. OLMo
  2. OLMo repository
  3. OLMo 2 model card
  4. Olmo 3 model card
  5. Dolma dataset

這是經過選編的技術圖譜,並非對 AI 技術的完整涵蓋聲明。