系列篇章💥
No. | 文章 |
---|---|
1 | Qwen2.5-Omni 大模型部署实践(一):环境搭建与模型下载 |
2 | Qwen2.5-Omni 大模型部署实践(二):使用transformers推理实践 |
一、前言
在上一篇文章里,我们已经成功完成了Qwen2.5-Omni大模型部署前的环境搭建工作,并且顺利下载了模型文件。从理论上来说,此刻我们已经站在了模型应用的起跑线上,接下来就要迈入激动人心的模型推理环节了。这篇文章将深入且细致地为大家介绍如何巧妙运用transformers库,对Qwen2.5-Omni大模型发起推理请求,进而生成丰富的文本和音频输出。