路径数、步数和速度
做完这一节,你知道出一次预测的时间花在哪,能按自己的显卡和需要把 --paths、--steps、--precision 调到合适的值。
时间花在哪:路径数 × 步数
上一课说过:每条路径从一团噪声出发,模型推一步、看一眼、再推一步。所以模型要算的次数大约是:
路径数 K × 步数 steps
默认 K=16、steps=32,就是 512 次。K 加到 64,时间就差不多变成 4 倍。
实测:RTX 4080 SUPER 16GB
官方 2.84 亿参数模型,单个例子,--chunk 48(16GB 显卡的自动值)。同一张卡上还有别的程序在跑,数字只看相对大小:
| 粒度 | 精度 | K | steps | 耗时 | 峰值显存 |
|---|---|---|---|---|---|
| 1h | bf16 | 16 | 8 | 1.0 秒 | 2.1 GB |
| 1h | bf16 | 16 | 32 | 3.7 秒 | 2.1 GB |
| 1h | bf16 | 64 | 32 | 16.9 秒 | 3.0 GB |
| 1h | bf16 | 256 | 32 | 70.0 秒 | 3.1 GB |
| 1h | fp32 | 16 | 32 | 5.4 秒 | 1.6 GB |
| 1m | bf16 | 16 | 32 | 15.2 秒 | 3.1 GB |
| 1m | bf16 | 64 | 32 | 60.8 秒 | 5.9 GB |
| 1m | fp32 | 64 | 32 | 89.7 秒 | 5.6 GB |
三条规律:
- 耗时和 K × steps 成正比。 16→64 条路径,3.7→16.9 秒。
- 1 分钟线最贵。 它一次要看 1200 根、画 120 根,序列是 1 小时线的三倍多。
- bf16 比 fp32 快 30% 左右。 有显卡时脚本默认就用 bf16。
每个参数怎么选
查一查我想……
点一个看看。
试一试:同一个例子,换路径数
bash
python eval/infer_for_pred.py --case 300733.SZ,1h,"2026-02-09 15:00" --paths 64 --out results/k64你应该看到耗时从 3 秒多变成十几秒(我们实测 16.9 秒)。终点中位数会和 16 条时不一样,这正常:路径多了,算出来的中位数和区间更稳,区间才是重点。
还有一个参数 --solver heun:每一步多算一次修正(Heun 法),模型要算的次数差不多翻倍。默认的 euler 就是论文用的。
考考你想把一次 1 小时线预测从约 4 秒压到约 1 秒,最直接的办法是?
检查一下
- 我知道耗时大约和“路径数 × 步数”成正比
- 我用
--paths 64跑过一次,看了区间的变化 - 显存不够时,我知道先调
--chunk
下一节:评估与回测。