日本語
AI技術体系に戻る

オープンモデルの事例

OLMo

Ai2が公開するOLMo系列は、重みに加えて事前学習データ、学習コード、中間チェックポイント、学習ログも公開しています。コード、重み、学習の開示、ライセンスという別々に確認すべき四点がすべて実際に公開されている事例であり、重みのみを公開する系列を測る基準になります。

基準時期
2024
最終確認

主要用語

  • 完全オープン(fully open)
  • 公開された学習データ(open training data)
  • 中間チェックポイント(intermediate checkpoints)
  • 学習ログ(training logs)

公開性プロファイル

コードと重みはApache 2.0です。事前学習コーパスDolmaはODC-BYで、元データそれぞれのライセンスにも従うため、ここでのオープンなデータは無制限の利用を意味しません。学習コード、中間チェックポイント、ログが公開されているので、学習の開示は推測ではなく確認できます。

「オープンソース」「オープンモデル」「オープンウェイト」は同義ではありません。版ごとにコード、重み、学習情報、ライセンスを個別に確認します。

プロジェクト内のつながり

一次資料

  1. OLMo
  2. OLMo repository
  3. OLMo 2 model card
  4. Olmo 3 model card
  5. Dolma dataset

これは選定された技術マップであり、網羅性を主張するものではありません。