未来会适配anime-whisper或支持自定义ASR引擎吗？

[CodeSnowC]

尽管现在提供的模型都很优秀但一些特殊场景下使用经过微调的或更专门的模型能非常有效提高正确性，希望考虑支持一下anime-whisper或能开放自定义ASR模型，获得更优秀的使用体验。
huggingface.co/litagin/anime-whisper

[TheDeathDragon]

很好的建议，但是这个只能改代码加了，后面找个时间看看

[Demorain123]

huggingface.co/litagin/anime-whisper

感觉不错诶，我试了下给sherpa parakeet也适配了，这个模型识别英语的准确率高多了不过慢很多，我试试看你这个你这个效果咋样，不过实时字幕有点麻烦的是要等人说完起码几个单次或者1秒啥的才会切分并吐字幕，体感上稍微有点延迟感

[TheDeathDragon]

尽管现在提供的模型都很优秀但一些特殊场景下使用经过微调的或更专门的模型能非常有效提高正确性，希望考虑支持一下anime-whisper或能开放自定义ASR模型，获得更优秀的使用体验。 huggingface.co/litagin/anime-whisper

已经更新了，要下3G模型

[CodeSnowC]

尽管现在提供的模型都很优秀但一些特殊场景下使用经过微调的或更专门的模型能非常有效提高正确性，希望考虑支持一下anime-whisper或能开放自定义ASR模型，获得更优秀的使用体验。 huggingface.co/litagin/anime-whisper

已经更新了，要下3G模型

刚刚想到有个SakuraLLM，试了下发现没有地方设置推理参数，还没有一个待翻译原文的变量在设置里，遂扒代码也没看出来该怎么改造user信息和system信息和添加推理参数。如果能有一个简易的说明就太好了。
https://github.com/SakuraLLM/

[TheDeathDragon]

尽管现在提供的模型都很优秀但一些特殊场景下使用经过微调的或更专门的模型能非常有效提高正确性，希望考虑支持一下anime-whisper或能开放自定义ASR模型，获得更优秀的使用体验。 huggingface.co/litagin/anime-whisper

已经更新了，要下3G模型

刚刚想到有个SakuraLLM，试了下发现没有地方设置推理参数，还没有一个待翻译原文的变量在设置里，遂扒代码也没看出来该怎么改造user信息和system信息和添加推理参数。如果能有一个简易的说明就太好了。 https://github.com/SakuraLLM/

加了

[CodeSnowC]

别的朋友也想联合SakuraLLM翻译的话，简单流程如下：
先设置系统提示词为SakuraLLM需要的(可以去github仓库里看)，填入基本设置如URL、api key、模型名称等，推理参数(其中一些需要extra_body)如下:

{
  "do sample": true,
  "beams number": 1,
  "repetition penalty": 1,
  "min new token": 1
}

然后改造项目的translator.py文件，将一部分需要的内容加到user消息中，简单例子：

    def _build_messages(self, system_prompt, text):
        
        pre_msgs = "将下面的日文文本翻译成中文："
        
        if self._no_system_role:
            msgs = [{"role": "user", "content": f"{system_prompt}\n{text}"}]
        else:
            msgs = [{"role": "system", "content": system_prompt}]
            # Append recent history as context
            if self._context_turns > 0 and self._history:
                for src, tgt in self._history[-self._context_turns:]:
                    msgs.append({"role": "user", "content": src})
                    msgs.append({"role": "assistant", "content": tgt})
            msgs.append({"role": "user", "content": f"{pre_msgs}{text}"})
        return msgs

然后运行设置里的基准测试，无报错和得到预期结果后就可以用了