Skip to content

本地 ASR (Qwen3-ASR):Windows 端流式方案待解 (M1) #256

@appergb

Description

@appergb

背景

feat/local-asr-qwen3 分支正在落地本地 ASR 功能(默认引擎 = Qwen3-ASR),用户需求三条硬指标:

  1. 真流式 / 实时输出
  2. 速度更快(接近或超过现有 Whisper-turbo)
  3. 不同量化等级可选

Mac 端选定 antirez/qwen-asr(纯 C + Accelerate / OpenBLAS),原生 2s chunk 流式 + 7-13× RT。

问题

antirez/qwen-asr 当前不支持 Windows 平台。 已知现状(2026-05 截图):

  • Build 脚本只覆盖 macOS (Accelerate) / Linux (OpenBLAS),未提及 Win
  • 也没有 GPU 后端(CPU + BLAS only),所以"装 CUDA 加速 Win"也不是它的选项

已评估的备选

路径 流式 Win 量化档 评估结论
antirez/qwen-asr ❌ 只 BF16 Mac 端首选,Win 阻塞
qwen3-asr-rs (candle + GGUF) ❌ 仅批式 ✅ Q4_0/Q4_K/Q8_0 Win 有希望但缺流式
官方 Qwen3-ASR vLLM (技术上) - 桌面应用嵌不进,淘汰
自行 fork antirez 加 Win port (待做) (待做) 工作量大,本期不投入

本期处理

  • Mac 端按 antirez/qwen-asr 路径推进
  • Windows 端 "本地 ASR" 选项灰掉 + tooltip "Windows 支持中"
  • 其余 Win 用户继续走云端 Volcengine / Whisper API(不影响)

跟进观察方向(issue 留以下选项追踪,不预设结论)

  • antirez 上游是否有 Windows port 计划:upstream issue / PR
  • qwen3-asr-rs 或 candle 生态是否实现流式解码
  • 评估 fork antirez 加 Win 移植的成本(msvc/mingw + OpenBLAS/MKL)
  • 评估改用 sherpa-onnx Paraformer-streaming 作 Win 流式备胎(非 Qwen3,但能给真流式)

不在本期范围

  • Win 端任何 local ASR 代码改动(仅 UI 灰掉)
  • 自行 port antirez 到 Win

本 issue 仅用于追踪决策与社区动态,关闭条件 = Windows 选项有可落地方案。

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Type

    No type
    No fields configured for issues without a type.

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions