带宽

  • VLA 延迟 150 毫秒,控制带宽卡在哪

    VLA 延迟 150 毫秒,控制带宽卡在哪

    把端侧视觉语言动作模型的推理压到 42 毫秒,力控环才勉强摸到 3 赫兹。卡住的不是算力,是整条链路 150 毫秒的绝对延迟。提高推理频率这个动作,收益封顶只有半个控制周期,延迟不降,带宽就上不去。 一句话答案控制带宽的硬上限等于…