ASR 大模型 GPU 推理方案来啦!
转载2 years ago
ASR 大模型 GPU 推理方案来啦!

相较于社区流行的 Faster Whisper 方案,NVIDIA TensorRT-LLM 能有效将推理速度提升 50% 以上; 仅用一张 A10 GPU,Whisper Turbo[1] 的中文微调模型每秒钟可以处理 500 秒的音频;…

38 0 0
OpenAI发布Windows版ChatGPT,高级语音能用了
转载2 years ago
OpenAI发布Windows版ChatGPT,高级语音能用了

来源丨新智元 OpenAI发布了支持Windows和macOS的ChatGPT桌面端,这种更加集成化的形式为用户在各种生活与工作的场景下,带来了更好的无缝式交互体验。对于常在桌面端办公的开发者来讲,应用协作功能尤其引人注目并超乎期待。 把消…

7 0 0