Примеры открытых моделей
OLMo
Ai2 публикует семейство OLMo вместе с данными предобучения, кодом обучения, промежуточными контрольными точками и журналами, а не только с весами. Это случай, когда все четыре вещи, которые стоит проверять по отдельности, — код, веса, раскрытие обучения и лицензия — действительно опубликованы, что делает его ориентиром на фоне семейств, выпускающих только веса.
Ключевые термины
- полностью открытый (fully open)
- открытые обучающие данные (open training data)
- промежуточные контрольные точки (intermediate checkpoints)
- журналы обучения (training logs)
Профиль открытости
Код и веса распространяются по Apache 2.0. Корпус предобучения Dolma выпущен по ODC-BY и по-прежнему подчиняется лицензиям исходных источников, поэтому открытые данные здесь не означают неограниченного использования. Код обучения, промежуточные контрольные точки и журналы опубликованы, так что раскрытие обучения можно проверить, а не выводить косвенно.
«Открытый исходный код», «открытая модель» и «открытые веса» не равнозначны. Код, веса, сведения об обучении и лицензия проверяются отдельно для каждого выпуска.
Связи внутри проекта
Связанные работы
Исторический контекст
Связанные разделы
Первичные источники
Это отобранная техническая карта, а не заявление о полном охвате.