← 文章

系列 · 3 篇文章

把 TTS 模型搬上 OpenVINO

Qwen3-TTS 在 Intel 硬件上的计算图导出、KV 缓存与流式批处理调度。

跟踪 Qwen3-TTS 从 Intel 硬件上的计算图导出到流式音频输出,理解模型阶段、有状态 KV 缓存、量化边界以及不依赖 vLLM 运行时的调度。

下文按系列顺序排列:先了解问题边界,再阅读实现与排查细节。

本系列文章

  1. Intel 平台上的 Qwen3-TTS:不依赖 CUDA 的 OpenVINO 推理

    35 分钟
  2. Qwen3-TTS 的 OpenVINO 拆图:Talker、Subcode 与流式解码

    38 分钟
  3. OpenVINO Qwen3-TTS:Paged-KV、U8 缓存与连续批处理

    42 分钟