अनुमान और तैनाती
Speculative Decoding
एक अनुमान-विधि जिसमें तेज़ प्रारूप कई टोकन प्रस्तावित करता है और लक्ष्य मॉडल उन्हें समानांतर रूप से सत्यापित करता है। यह लक्ष्य-वितरण बदले बिना सृजन का विलम्ब घटा सकती है।
मुख्य शब्द
- ड्राफ़्ट मॉडल (draft model)
- सत्यापन (verification)
- विलम्ब (latency)
- सटीक सैंपलिंग (exact sampling)
पूरी परियोजना में जुड़ाव
किस पर आधारित
किसके द्वारा प्रयुक्त
संबंधित प्रौद्योगिकी
संबंधित शोधपत्र
ऐतिहासिक संदर्भ
प्राथमिक स्रोत
यह एक चुना हुआ तकनीकी मानचित्र है, सम्पूर्ण कवरेज का दावा नहीं।