跳到正文
原文
AWS Machine Learning Blog· Yadan Wei·· 10 天前AI 评分51

在 SageMaker AI 上用 vLLM-Omni 构建实时语音应用

Build real-time voice applications with vLLM-Omni on SageMaker AI – Part 1

AI 导读

本教程讲解如何在 Amazon SageMaker AI 上使用 AWS vLLM-Omni DLC 部署 Qwen3-TTS 模型,实现边生成边播放的流式语音输出。通过 Gradio 应用演示文本输入和 24kHz PCM 音频流的完整工作流程,并提供部署脚本和双向流式传输配置。

来源:AWS Machine Learning Blog · aws.amazon.com