Skip to content
推理第 2 / 4 节

路径数、步数和速度 ​

做完这一节,你知道出一次预测的时间花在哪,能按自己的显卡和需要把 --paths、--steps、--precision 调到合适的值。

时间花在哪:路径数 × 步数 ​

上一课说过:每条路径从一团噪声出发,模型推一步、看一眼、再推一步。所以模型要算的次数大约是:

路径数 K × 步数 steps

默认 K=16、steps=32,就是 512 次。K 加到 64,时间就差不多变成 4 倍。

实测:RTX 4080 SUPER 16GB ​

官方 2.84 亿参数模型,单个例子,--chunk 48(16GB 显卡的自动值)。同一张卡上还有别的程序在跑,数字只看相对大小:

粒度精度Ksteps耗时峰值显存
1hbf161681.0 秒2.1 GB
1hbf1616323.7 秒2.1 GB
1hbf16643216.9 秒3.0 GB
1hbf162563270.0 秒3.1 GB
1hfp3216325.4 秒1.6 GB
1mbf16163215.2 秒3.1 GB
1mbf16643260.8 秒5.9 GB
1mfp32643289.7 秒5.6 GB

三条规律:

  1. 耗时和 K × steps 成正比。 16→64 条路径,3.7→16.9 秒。
  2. 1 分钟线最贵。 它一次要看 1200 根、画 120 根,序列是 1 小时线的三倍多。
  3. bf16 比 fp32 快 30% 左右。 有显卡时脚本默认就用 bf16。

每个参数怎么选 ​

查一查我想……

点一个看看。

试一试:同一个例子,换路径数 ​

bash
python eval/infer_for_pred.py --case 300733.SZ,1h,"2026-02-09 15:00" --paths 64 --out results/k64

你应该看到耗时从 3 秒多变成十几秒(我们实测 16.9 秒)。终点中位数会和 16 条时不一样,这正常:路径多了,算出来的中位数和区间更稳,区间才是重点。

还有一个参数 --solver heun:每一步多算一次修正(Heun 法),模型要算的次数差不多翻倍。默认的 euler 就是论文用的。

考考你想把一次 1 小时线预测从约 4 秒压到约 1 秒,最直接的办法是?

检查一下 ​

  • 我知道耗时大约和“路径数 × 步数”成正比
  • 我用 --paths 64 跑过一次,看了区间的变化
  • 显存不够时,我知道先调 --chunk

下一节:评估与回测。

搞懂AI关于我们怎么写隐私说明联系我们

独立的第三方教程,与文中提到的任何产品及其公司没有隶属或合作关系;产品名称和商标归各自所有者。价格和政策以官方页面为准。