当前位置：首页 > article >正文

华为云Flexus+DeepSeek征文｜Dify - LLM 云服务单机部署大语言模型攻略指南

article 2025/6/9 18:15:22

前言：在当今人工智能快速发展的时代，华为云推出的 Dify - LLM 对话式 AI 开发平台为企业和开发者提供了便捷的大语言模型应用开发解决方案。

通过在华为云 Flexus 云服务器上单机部署 Dify，并成功集成 DeepSeek 模型，我们能够快速搭建起一个功能强大的大语言模型应用开发平台。利用 Dify 丰富的功能和华为云稳定可靠的云服务，开发者可以高效地探索和实现各种生成式 AI 应用，为不同行业带来创新的解决方案。希望本文的攻略指南能够帮助您顺利开启大语言模型应用开发之旅，在 AI 领域创造更多价值。

在这里插入图片描述

点击进入ModelArts Studio大模型即服务平台 https://www.huaweicloud.com/product/modelarts/studio.html

在这里插入图片描述

一、准备工作

注册华为云账号：如果您还没有华为云账号，需要先在华为云官方网站进行注册，并完成实名认证等相关流程。
充值账号：为了避免部署过程中出现问题，建议提前在华为账号中充值一定金额，如 10 元即可。

二、开通 DeepSeek - V3/R1 商用服务

在 Dify - LLM 平台中使用 DeepSeek - V3/R1 模型，需要先开通其商用服务。

在这里插入图片描述

三、单机部署步骤

3.1 登录华为云控制台： 使用注册好的账号登录华为云控制台界面。华为云的控制台界面设计得较为直观，即使是初次使用云服务器的用户，也能比较容易地找到所需的功能入口。
https://www.huaweicloud.com/solution/implementations/building-a-dify-llm-application-development-platform.html

3.2 架构方案图：
在这里插入图片描述

3.3 点击 “一键部署（云服务器单机部署）”，即可开始部署。

在这里插入图片描述

模板 URL

https://documentation-samples.obs.cn-north-4.myhuaweicloud.com/solution-as-code-publicbucket/solution-as-code-moudle/building-a-dify-llm-application-development-platform/building-a-dify-llm-application-development-platform.tf.json

3.4 接着进入立即创建资源栈页面！
在这里插入图片描述

3.5 根据页面相关参数信息来进行填写：创建方式、模版来源、模型URL

注意： ecs_password 的值为华为云 Flexus X 实例的服务器密码

在这里插入图片描述

3.6 开启加密

在这里插入图片描述

3.7 点击右下角的创建执行计划按钮

在这里插入图片描述
3.8 创建执行计划成功

3.9 开始部署，等待部署结果。。。

3.10 部署完之后点击超链接 https://console.huaweicloud.com/console/?region=cn-north-4#/home 进入资源控制台
在这里插入图片描述

3.11 点击华为云服务器ECS，进入弹性云服务器管理页面，点击远程登录服务器

配置安全组规则： 为了确保云服务器的安全以及 Dify - LLM 服务的正常访问，需要配置安全组规则。添加允许相关端口访问的规则，例如，如果 Dify - LLM 使用的是默认端口，需要开放对应的 HTTP 或 HTTPS 端口，端口22，以便外部能够访问部署在云服务器上的应用。

在这里插入图片描述

四、登录访问Dify、参数配置

在您的浏览器中输入http://部署好的资源IP地址，进入到设置管理员账户页面
在这里插入图片描述

4.1 可以看到 Dify 管理平台界面

4.2 这时候我们可以创建一个空白应用，进行查看效果

在这里插入图片描述

4.3 配置 Dify - LLM： 安装完成后，进入 Dify - LLM 的配置目录，根据实际需求修改配置文件。配置内容可能包括模型相关配置（如选择要使用的大语言模型，配置模型的参数等）、数据处理相关配置（如指定数据标注工具的路径、数据存储位置等）以及对话流程和业务逻辑相关配置（如设置对话策略、自定义回复内容等）。

添加AI应用模型
在这里插入图片描述

4.4 安装OpenAI-API-compatible插件
在这里插入图片描述
4.5 顺利安装完之后，进行添加AI模型。配置模型名称、API Key，API endpoint URL等信息

4.6 可以看到华为云Flexus的 DeepSeek-V3模型

在这里插入图片描述

4.7 可以配置模型的参数，包括：温度、Top P、频率惩罚、存在惩罚、最大标记、思考模式等参数

在这里插入图片描述

五、Dify - LLM部署后的验证与性能测试

发布应用后，在调试与预览页面输入问题，可以查看到应用使用 DeepSeek 模型给出的回答。例如，输入一个常见问题，模型的回答准确、合理。如果回答不符合预期，可以返回编排页面调整提示词或知识库等配置，再次发布并验证，直到达到满意的效果。
在这里插入图片描述

六、注意事项

资源监控：在使用过程中，密切关注云服务器的资源使用情况，如 CPU 使用率、磁盘空间、内存利用等。可以通过华为云提供的监控工具设置预警，当资源使用达到一定阈值时及时收到通知，以便采取相应的措施，如升级实例规格或优化应用程序。
数据备份：定期对 Dify - LLM 平台中的数据进行备份，包括训练数据、配置文件等。防止数据丢失对业务造成影响。可以使用华为云的对象存储服务（OBS）等进行数据备份和存储。
安全防护：保持云服务器的操作系统和软件更新到最新版本，以修复可能存在的安全漏洞。同时，遵循华为云的安全最佳实践，加强账号安全管理，如设置强密码、定期更换密码等。