先画出完整数据路径
把一帧从采集到显示经过的步骤全部列出,并为每一步单独计时。只有端到端路径清晰,优化才不会变成猜测。
- 画面采集
- 尺寸与颜色转换
- 模型推理
- 后处理
- 覆盖层绘制
- 输入或控制动作
关注阻塞和节奏,而不只是平均值
平均推理时间可能很好看,但偶发长耗时、同步等待或绘制阻塞会破坏交互感受。
让各环节按需要解耦
采集、推理和显示不一定必须严格串行。根据场景,可以保留最新帧、降低绘制频率或把慢步骤移出关键路径。
视觉应用的体感延迟是整条链路共同决定的。模型推理很快,但采集、图像转换、覆盖层绘制或输入控制阻塞,仍会让最终效果明显卡顿。
把一帧从采集到显示经过的步骤全部列出,并为每一步单独计时。只有端到端路径清晰,优化才不会变成猜测。
平均推理时间可能很好看,但偶发长耗时、同步等待或绘制阻塞会破坏交互感受。
采集、推理和显示不一定必须严格串行。根据场景,可以保留最新帧、降低绘制频率或把慢步骤移出关键路径。