阿里云一键部署QwQ-32B大模型，零代码上手，支持本地部署和连接百炼在线模型。
原文标题：QwQ-32B一键部署！真正的0代码，0脚本，0门槛
原文作者：阿里云开发者
冷月清谈：
该方案无需任何代码或命令行操作，全部在控制台即可完成。对于本地部署，推荐ECS配置为16核CPU、64GB内存、30GB硬盘以及24GB显存的显卡。如果选择连接阿里云百炼的QwQ-32B在线模型，则对ECS配置要求不高。
OpenWebUI提供图形化界面，用户可以直接搜索并拉取QwQ-32B模型进行本地部署。此外，如果ECS性能不足以支持本地运行，也可以通过OpenWebUI连接阿里云百炼的QwQ-32B在线模型，享受长达半年的免费额度。
OpenWebUI还提供模型对比输出、自定义推理参数、个性化知识库等高级功能，方便用户进行模型评估、参数调整和知识扩展。
怜星夜思：
2、一键部署确实很方便，但如果我想对部署过程进行更细粒度的控制，比如修改一些配置参数，应该怎么做？
3、除了阿里云ECS，这个一键部署方案还能应用于其他平台吗？比如本地服务器或者其他云平台？
原文内容
阿里云发布的最新模型QwQ-32B，通过强化学习大幅度提升了模型推理能力。模型数学代码等核心指标（AIME 24/25、livecodebench）以及部分通用指标（IFEval、LiveBench等）达到DeepSeek-R1 满血版水平，各指标均显著超过同样基于 Qwen2.5-32B 的 DeepSeek-R1-Distill-Qwen-32B。
阿里云系统运维管理（OOS）的公共扩展功能为您提供了一键部署OpenWebUI+Ollama的便捷方案，让您轻松部署QwQ-32B模型到阿里云ECS。另外，您也可以连接阿里云百炼的QwQ-32B在线模型，本文也将提供详细的解决方案！
整个方案不需要任何的代码和命令执行，全部在控制台完成，所以新手朋友也不用担心哦，大胆地尝试起来吧！
部署OpenWebUI+Ollama
前提条件
-
ecs配置
-
如果您需要本地部署qwq-32b，建议ecs性能至少达到：CPU 16核以上，内存64GB+，硬盘30GB+，显卡24GB+显存；
-
如果您选择连接阿里云百炼qwq-32b在线模型，普通ECS即可；
-
您的ECS操作系统版本为以下之一：
-
Alibaba Cloud Linux （2.1903 LTS、3.2104 LTS）推荐
-
Ubuntu（20.04、22.04、24.04）
-
CentOS（7.7、7.8、7.9）
-
Debian（12.5、12.6）
-
OpenSUSE 15
-
Fedora（38、39、40）
-
Anolis OS（8.8、8.9）
-
AlmaLinux（9.3、9.4、9.5）
-
ECS实例必须处于运行中状态
-
ECS实例必须要有公网
-
安全组入方向必须开启3000端口
安装步骤
-
阿里云系统运维管理控制台[1]中找到OpenWebUI扩展 点击安装扩展程序。
-
请选择想要安装到的ECS实例，并点击创建。
-
等待执行几分钟，安装完成后。点击输出->扩展信息。您可以在配置输出里面找到已安装好的OpenWebUI的Url(格式为 http://{ECS的公网ip}:3000)。
-
点击url链接，根据提示创建账号并登录即可。
注意：
您需要确认安全组入方向3000端口已经开放，详情见附录1。
第一次登陆会比较慢，请在登陆后按照附录2说明，更改配置。下次登陆就会变快。
在Open WebUI部署QwQ-32B本地大模型
当您登陆进入管理界面，您可以直接在对话界面搜索，想要本地部署的模型。本文以部署QwQ-32B模型为例。点击从ollama官网[2]拉取，等待模型下载部署完成后，就可以直接使用啦！您可以在ollama官网查看可供下载的大模型。
下载完成后，您可以选择模型并开始对话。
更多信息可以参考OpenWebUI官方文档[3]。
在Open WebUI连接阿里云百炼在线模型
如果说您的ECS性能无法满足本地运行要求，您也可以配置连接阿里云百炼[4]的在线模型。百炼现在对于新用户还有最长达半年的免费额度，具体信息请参考新人免费额度_大模型服务平台百炼[5]。
点击进入管理员面板：
添加阿里云百炼的连接：
模型名称、URL（https://dashscope.aliyuncs.com/compatible-mode/v1）、API KEY等信息，都可以在阿里云百炼的控制台找到。
保存好后，回到对话页面，您就可以找到刚才配置的模型，并开始对话了。
原理解析
什么是OpenWebUI和Ollama
OpenWebUI 是一个开源的用户界面（UI）工具，通常用于与大型语言模型（LLM）进行交互。它提供了一个图形化的前端界面，使得用户可以更方便地与大模型进行对话、测试和调试。
OpenWebUI 支持多种后端模型，允许用户通过简单的配置文件或命令行参数来切换不同的模型。它通常用于研究、开发和演示场景，帮助开发者和研究人员更直观地了解模型的表现。
OpenWebUI 的主要功能特点：
-
支持多种语言模型（如 LLaMA、ChatGLM、Qwen 等）。
-
提供了友好的图形化界面，便于用户输入和查看输出。
-
可以自定义提示词（prompt），并支持多轮对话。
-
支持模型推理时的参数调整，如温度（temperature）、top-k、top-p 等。
Ollama 是一个专为大语言模型服务设计的开源工具，方便用户在本地快速部署大型模型。通过简单的安装过程，用户可以用一条命令即可启动和操作这些开源的大语言模型。它提供了一个易于使用的命令行界面和服务器，旨在简化构建大语言模型应用的流程。用户可以方便地下载、运行和管理各种开源的大模型。
上述安装过程中，扩展程序内的OpenWebUI已经完成了与Ollama的集成。借助OpenWebUI 提供的图形化用户界面，使得与 Ollama 交互变得更加直观和便捷。就像上面安装时，我们在UI界面搜索并点击下载QWQ-32b模型模型，背后其实就是执行了Ollama的命令，完成模型的下载和部署。这大大简化了操作流程，还提高了开发效率和灵活性。
安装脚本解析
您可以在公共扩展的详情页，找到完整的安装脚本：
主要是先完成了docker的安装，再拉取open-webui:ollama镜像，启动容器。这个镜像内已配置好open-webui和ollama的集成，维护在aliyun-computenest-opensource-registry这个公开仓库，您可随时拉取使用。
脚本里，docker命令创建了名为 ollama 和open-webui 的卷，用于持久化容器内的数据，并将主机的3000端口映射到容器的8080端口。您可以按需调整脚本，以适应个性化的安装需求。
之前是docker安装 ----------- sudo systemctl start docker sudo systemctl enable dockerdocker run -d -p 3000:8080 -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always aliyun-computenest-opensource-registry.cn-hangzhou.cr.aliyuncs.com/default/open-webui:ollama
sleep 5 # 等待容器初始化
docker ps -f name=openwebui
OpenWebUI高级玩法介绍
除了上面提到的基本的对话功能，openwebui还有很多有意思的功能，我们来看几个比较常用的功能。
模型对比输出
您可以添加多个模型，开启对话后，会以分栏的方式，同时展示不同模型的回答。您可以对比回答，挑选更符合要求的。
您还可以整合多个回答的问题：
自定义推理参数
您可以自定义模型的系统提示词、函数调用、温度k等配置，调出最适合自己的模型参数。
此外，OpenWebUI还有个性化知识库、AI对话游乐场等功能，您可以在官方文档[6]中继续探索！
附录
1. 开启安全组3000端口的方法（详细说明请看官方文档）：
进入实例详情页，点击安全组选项，并点击安全组名称
点击快速添加，新增需要开放的端口。这里请开放3000端口。
2. Open WebUI访问慢的问题
点击进入管理员面板，关闭OpenAI的连接（或者您可按需换成如阿里云百炼这种访问速度较快的外部API）：
参考链接：
[6]https://docs.openwebui.com/