跳到正文
AWS Machine Learning Blog· Pierre Lienhart·· 4 小时前AI 评分26

Deepgram 将 Nova-3 模型迁移至 AWS Trainium2 实现语音 AI 规模化优化

How Deepgram optimized voice AI at scale with AWS Trainium

AI 导读

Deepgram 与 AWS 合作,将 Nova-3 语音转文本模型迁移至 AWS Trainium2 芯片以优化离线批处理工作负载。通过 PyTorch 重构及 NKI 内核级调优,该方案在单台 EC2 trn2.3xlarge 实例上运行八个模型副本,使每美元处理的音频量提升 11–70%。

来源:AWS Machine Learning Blog · aws.amazon.com