带宽
-
VLA 延迟 150 毫秒,控制带宽卡在哪
把端侧视觉语言动作模型的推理压到 42 毫秒,力控环才勉强摸到 3 赫兹。卡住的不是算力,是整条链路 150 毫秒的绝对延迟。提高推理频率这个动作,收益封顶只有半个控制周期,延迟不降,带宽就上不去。 一句话答案控制带宽的硬上限等于…
把端侧视觉语言动作模型的推理压到 42 毫秒,力控环才勉强摸到 3 赫兹。卡住的不是算力,是整条链路 150 毫秒的绝对延迟。提高推理频率这个动作,收益封顶只有半个控制周期,延迟不降,带宽就上不去。 一句话答案控制带宽的硬上限等于…