प्रशिक्षण और उत्तर-प्रशिक्षण
LoRA / QLoRA
प्राचल-मितव्ययी सूक्ष्म-अनुकूलन की विधियाँ जो आधार भार जमे रहने देती हैं और छोटे निम्न-कोटि अनुकूलक प्रशिक्षित करती हैं। QLoRA इन अनुकूलकों को क्वांटीकृत आधार मॉडल के साथ जोड़कर स्मृति की खपत और घटाता है।
मुख्य शब्द
- निम्न-कोटि अनुकूलक (low-rank adapters)
- जमाया गया आधार मॉडल (frozen base model)
- 4-बिट प्रशिक्षण (4-bit training)
- PEFT
पूरी परियोजना में जुड़ाव
किस पर आधारित
किसके द्वारा प्रयुक्त
संबंधित प्रौद्योगिकी
संबंधित शोधपत्र
ऐतिहासिक संदर्भ
प्राथमिक स्रोत
यह एक चुना हुआ तकनीकी मानचित्र है, सम्पूर्ण कवरेज का दावा नहीं।