पाथ संख्या, चरण और गति
यह खंड पूरा करने के बाद, आप जान जाएंगे कि एक प्रेडिक्शन निकालने में समय कहाँ खर्च होता है, और आप अपने GPU और ज़रूरत के अनुसार --paths, --steps, --precision को उपयुक्त मान पर सेट कर सकेंगे।
समय कहाँ खर्च होता है: पाथ संख्या × चरण
पिछले पाठ में कहा गया था: हर पाथ एक नॉइज़ के गुच्छे से शुरू होता है, मॉडल एक कदम चलता है, देखता है, फिर एक कदम और चलता है। इसलिए मॉडल को गणना करनी पड़ती है लगभग इतनी बार:
पाथ संख्या K × चरण steps
डिफ़ॉल्ट K=16, steps=32, यानी 512 बार। K को 64 तक बढ़ाने पर समय लगभग 4 गुना हो जाता है।
वास्तविक माप: RTX 4080 SUPER 16GB
आधिकारिक 2.84 अर्थात् 28.4 करोड़ (284 मिलियन) पैरामीटर वाला मॉडल, एक उदाहरण, --chunk 48 (16GB GPU का स्वचालित मान)। उसी GPU पर अन्य प्रोग्राम भी चल रहे थे, इसलिए संख्याओं को केवल सापेक्ष आकार के रूप में देखें:
| ग्रैन्युलैरिटी | प्रिसिशन | K | steps | समय | पीक VRAM |
|---|---|---|---|---|---|
| 1h | bf16 | 16 | 8 | 1.0 सेकंड | 2.1 GB |
| 1h | bf16 | 16 | 32 | 3.7 सेकंड | 2.1 GB |
| 1h | bf16 | 64 | 32 | 16.9 सेकंड | 3.0 GB |
| 1h | bf16 | 256 | 32 | 70.0 सेकंड | 3.1 GB |
| 1h | fp32 | 16 | 32 | 5.4 सेकंड | 1.6 GB |
| 1m | bf16 | 16 | 32 | 15.2 सेकंड | 3.1 GB |
| 1m | bf16 | 64 | 32 | 60.8 सेकंड | 5.9 GB |
| 1m | fp32 | 64 | 32 | 89.7 सेकंड | 5.6 GB |
तीन नियम:
- लगने वाला समय K × steps के समानुपाती है। 16→64 पथ, 3.7→16.9 सेकंड।
- 1 मिनट टाइमफ्रेम सबसे महँगा है। यह एक बार में 1200 कैंडल देखता है और 120 कैंडल बनाता है, और इसका सीक्वेंस 1 घंटे टाइमफ्रेम से तीन गुना से अधिक लंबा है।
- bf16, fp32 से लगभग 30% तेज़ है। जब ग्राफ़िक्स कार्ड उपलब्ध हो, तो स्क्रिप्ट डिफ़ॉल्ट रूप से bf16 ही उपयोग करती है।
हर पैरामीटर कैसे चुनें
खोजेंमैं सोचता/सोचती हूँ……
एक पर क्लिक करके देखें।
आज़माएँ: वही उदाहरण, पथों की संख्या बदलें
python eval/infer_for_pred.py --case 300733.SZ,1h,"2026-02-09 15:00" --paths 64 --out results/k64आपको लगने वाला समय 3 सेकंड से बढ़कर दस-पंद्रह सेकंड हो जाना चाहिए (हमने वास्तव में 16.9 सेकंड मापा)। एंडपॉइंट का माध्यिका (मीडियन) 16 पथों वाले मामले से अलग होगा, यह सामान्य है: पथ अधिक होने पर निकाला गया माध्यिका और अंतराल अधिक स्थिर होते हैं, और अंतराल ही मुख्य बात है।
एक और पैरामीटर --solver heun है: हर कदम पर एक बार अतिरिक्त सुधार (Heun विधि) निकाला जाता है, इसलिए मॉडल की गणना बार लगभग दोगुनी हो जाती है। डिफ़ॉल्ट euler ही वही है जो पेपर में इस्तेमाल हुआ है।
आपकी परीक्षा1 घंटे के चार्ट पर एक प्रेडिक्शन को लगभग 4 सेकंड से लगभग 1 सेकंड तक घटाने का सबसे सीधा तरीका क्या है?
एक बार जाँच लें
- मुझे पता है कि लगने वाला समय लगभग "पथों की संख्या × कदमों की संख्या" के समानुपाती होता है
- मैंने
--paths 64से एक बार चलाकर अंतराल में बदलाव देखा है - जब VRAM कम पड़े, तो मुझे पता है कि पहले
--chunkको एडजस्ट करें
अगला सेक्शन: मूल्यांकन और बैकटेस्ट।