VRAM की कमी और अटकना: OOM का व्यवस्थित समाधान
जनरेशन के बीच में CUDA out of memory दिखता है, या प्रोग्रेस बार अटक जाता है और VRAM भर जाता है — यही VRAM की कमी है, और ComfyUI की सबसे आम समस्याओं में से एक है। जल्दी में ग्राफ़िक्स कार्ड न बदलें: नीचे दिए क्रम से जांचें, अधिकांश OOM सॉफ़्टवेयर स्तर पर हल हो जाते हैं। अगर पहली बार एरर ठीक कर रहे हैं, तो पहले ट्रबलशूटिंग ओवरव्यू पढ़ने की सलाह दी जाती है।
लक्षण: पहले अपना मिलान करें
CUDA out of memory / torch.OutOfMemoryError
पहले ComfyUI को रीस्टार्ट करें ताकि लीक हुआ VRAM रिलीज़ हो सके, फिर --lowvram के साथ स्टार्ट करें, जिससे टेक्स्ट एनकोडर CPU पर चलेगा और VRAM उपयोग घटेगा।
प्रोग्रेस बार अटक जाता है, VRAM भर जाता है लेकिन एरर नहीं आता
पहले nvidia-smi से देखें कि VRAM कौन उपयोग कर रहा है, फिर ब्राउज़र, गेम और अन्य ड्रॉइंग प्रोग्राम बंद करके दोबारा कोशिश करें।
बड़ा मॉडल बदलने के बाद हमेशा क्रैश
बड़े मॉडल के वेट सीधे फिज़िकल VRAM से अधिक हैं, पैरामीटर बदलने से केवल राहत मिलेगी; क्वांटाइज़्ड संस्करण या छोटे checkpoint पर स्विच करना ही असली समाधान है।
त्वरित जांच (60 सेकंड)
nvidia-smiया टास्क मैनेजर से पुष्टि करें: कोई ब्राउज़र, गेम या अन्य AI प्रोग्राम VRAM नहीं ले रहा है।- ComfyUI को रीस्टार्ट करें। असामान्य बाधित होने के बाद VRAM अक्सर रिलीज़ नहीं होता, रीस्टार्ट सबसे तेज़ "रीसेट" उपाय है।
- रेज़ोल्यूशन और बैच (batch size) न्यूनतम तक घटाएँ, पहले साबित करें कि वर्कफ़्लो खुद चल सकता है।
- गिनें कि इस जनरेशन में कितने मॉडल एक साथ लोड हो रहे हैं: checkpoint, ControlNet, अपस्केल मॉडल, LoRA सभी गिनती में आते हैं।
फिर भी OOM? अब औपचारिक जांच शुरू करें।
जांच के चरण
चरण 1: एक बार की जनरेशन का VRAM दबाव घटाएँ
OOM अक्सर "एक बार में बहुत कुछ माँगने" से होता है। पहले रेज़ोल्यूशन एक स्तर नीचे करें (जैसे 512×768), batch size 1 रखें, चलने के बाद धीरे-धीरे बढ़ाएँ और अपनी मशीन का सीमा बिंदु पाएँ। फिर जांचें कि वर्कफ़्लो में एक साथ कई बड़े मॉडल नोड तो नहीं लगे हैं — जो उपयोग नहीं हो रहे उन्हें पहले डिस्कनेक्ट करें — VRAM में रहने वाला हर मॉडल पीक बढ़ाता है।
चरण 2: स्टार्टअप पैरामीटर से VRAM पुनर्वितरित करें
ComfyUI VRAM रणनीति नियंत्रित करने के लिए स्टार्टअप पैरामीटर देता है, ज़रूरत के अनुसार संयोजित करें:
--lowvram: कम VRAM मोड, टेक्स्ट एनकोडर को CPU पर चलाता है, गति के बदले VRAM देता है, सबसे अधिक उपयोग होता है।--cpu: कंप्यूटेशन को RAM और CPU पर रखता है, बहुत धीमा लेकिन लगभग कभी OOM नहीं, आपातकाल में वर्कफ़्लो सत्यापित करने के लिए उपयुक्त।--reserve-vram: कुछ VRAM सिस्टम या अन्य प्रोग्राम के लिए आरक्षित रखता है, ताकि ग्राफ़िक्स कार्ड पूरी तरह खप जाने पर पूरी मशीन न अटके।--async-offload: जनरेशन के दौरान मॉडल वेट को असिंक्रोनस रूप से इन-आउट स्वैप करता है, पीक उपयोग और घटाता है (NVIDIA कार्ड पर डिफ़ॉल्ट में चालू है)।--cache-*सीरीज़: मॉडल और नोड परिणामों की कैश रीसायकलिंग रणनीति नियंत्रित करती है, आम मान हैं--cache-none(कम RAM/VRAM उपयोग, लेकिन हर नोड हर रन में दोबारा निष्पादित होता है),--cache-lru 10(अधिकतम 10 नोड परिणाम कैश),--cache-classic(पुराना आक्रामक कैश)।
Windows पोर्टेबल पैकेज उपयोगकर्ता आमतौर पर स्टार्टअप स्क्रिप्ट में ये पैरामीटर जोड़ते हैं: पोर्टेबल पैकेज की रूट डायरेक्टरी की run_nvidia_gpu.bat फ़ाइल एडिट करें और .\python_embeded\python.exe -s ComfyUI\main.py --windows-standalone-build पंक्ति के अंत में जोड़ दें।
चरण 3: छोटे मॉडल या क्वांटाइज़्ड संस्करण पर स्विच करें
पैरामीटर पूरे भरने के बाद भी बार-बार OOM होता है, तो मॉडल आपके VRAM के लिए सचमुच बहुत बड़ा है। दो रास्ते: पहला, GGUF क्वांटाइज़्ड मॉडल अपनाएँ — कम VRAM में भी बड़े मॉडल चल सकते हैं, तरीका देखें GGUF क्वांटाइज़्ड मॉडल: कम VRAM में बड़े मॉडल चलाएँ; दूसरा, सीधे छोटे checkpoint पर स्विच करें, पहले छोटे मॉडल से प्रक्रिया सुचारू चलाएँ।
ध्यान से पहचानें: अगर मॉडल लोड होते ही एरर आता है (जनरेशन के बीच OOM नहीं), तो यह अक्सर VRAM की समस्या नहीं है, पिछला पेज देखें मॉडल लोड विफलता।
अपग्रेड की शर्तें: पैरामीटर छेड़ना कब बंद करें
कोई भी एक शर्त पूरी हो, तो सॉफ़्टवेयर स्तर पर और समय न बर्बाद करें:
--lowvram+ न्यूनतम रेज़ोल्यूशन + क्वांटाइज़्ड मॉडल के बाद भी OOM निश्चित रूप से आता है: VRAM फिज़िकल रूप से मॉडल की न्यूनतम सीमा से कम है, ग्राफ़िक्स कार्ड अपग्रेड करने पर विचार करें, या--cpuधीमे मोड में लंबे समय तक इमेज बनाना स्वीकार करें।- VRAM भरा नहीं है फिर भी लगातार अटकना: समस्या शायद VRAM में नहीं है, वापस ट्रबलशूटिंग ओवरव्यू पर जाकर लॉग से पहचानें।
- एरर OOM नहीं, बल्कि लोडिंग या आर्किटेक्चर संबंधी है: जाएँ मॉडल लोड विफलता।
- कुछ भी मेल नहीं खाता: पूरा कंसोल लॉग लेकर ComfyUI के GitHub रिपॉज़िटरी में "out of memory" खोजें, बड़ी संभावना है किसी ने यही समस्या पहले झेली है।