OpenAi以及Dify结合生成Ai模型

1、Dify介绍

Dify官方地址。

Dify 是一个开源的 LLM 应用开发平台。其直观的界面结合了 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等，让您可以快速从原型到生产。以下是其核心功能列表：

1. 工作流: 在画布上构建和测试功能强大的 AI 工作流程，利用以下所有功能以及更多功能。

2. 全面的模型支持: 与数百种专有/开源 LLMs 以及数十种推理提供商和自托管解决方案无缝集成，涵盖 GPT、Mistral、Llama3 以及任何与 OpenAI API 兼容的模型。完整的支持模型提供商列表可在此处找到。

3. Prompt IDE: 用于制作提示、比较模型性能以及向基于聊天的应用程序添加其他功能（如文本转语音）的直观界面。

4. RAG Pipeline: 广泛的 RAG 功能，涵盖从文档摄入到检索的所有内容，支持从 PDF、PPT 和其他常见文档格式中提取文本的开箱即用的支持。

5. Agent 智能体: 您可以基于 LLM 函数调用或 ReAct 定义 Agent，并为 Agent 添加预构建或自定义工具。Dify 为 AI Agent 提供了50多种内置工具，如谷歌搜索、DALL·E、Stable Diffusion 和 WolframAlpha 等。

6. LLMOps: 随时间监视和分析应用程序日志和性能。您可以根据生产数据和标注持续改进提示、数据集和模型。

7. 后端即服务: 所有 Dify 的功能都带有相应的 API，因此您可以轻松地将 Dify 集成到自己的业务逻辑中。

• 功能比较
  

2、使用 Dify

克隆 Dify 源代码至本地：

git clone https://github.com/langgenius/dify.git

启动Dify:

cd dify/docker
cp .env.example .env
docker compose up -d

注意

• 如果您的系统安装了 Docker Compose V2 而不是 V1，请使用 docker compose 而不是 docker-compose。通过 docker compose version检查这是否为情况。
  

3、部署Docker

根据上面提示用到了dokcer,那么现在就要在本地Windows安装Docker。

1.系统要求

• 1.1 最低要求
  对于 x64 系统：版本 1903 或更高版本，内部版本为 18362.1049 或更高版本。
  对于 ARM64 系统：版本 2004 或更高版本，内部版本为 19041 或更高版本。
• 1.2 标准
  Windows 10 版本 2004 及更高版本（内部版本 19041 及更高版本）或 Windows 11。

2.系统虚拟化

• 打开任务管理器，选择性能，查看CPU虚拟化，确认是否已启用（默认启用）。
  

• 如果未启用，则需要添加虚拟化功能：控制面板 -> 启用或关闭Windows功能。
  

• 选择Hyper-V的所有功能，确定：
  

• 系统会自动搜索并安装功能。安装完毕即可。
  
  
  

• 全部打勾，然后重启电脑。

3.下载docker

• docker下载：
  docker下载地址。

• 安装
  双击安装包下一步即可。

恭喜已经成功完成 Windows 版 Docker 的安装。
但是，打开Docker会报错，原因是windows运行linux内核系统需要安装Linux 内核更新包。

• 下载linux内核更新包

参考： WSL 的手动安装步骤—步骤 4 - 下载 Linux 内核更新包

点击下载最新包：wsl_update_x64.msi

运行安装向导，并按照提示一步一步完成整个安装过程

设置默认wsl默认版本，用系统管理员的角色打开windows的powershell，然后运行如下命令：

wsl --set-default-version 2

• 重启电脑，再运行docker就正常了。

  
  

• 打开命令行或者 PowerShell 界面，输入docker version命令，看到下图就表示成功安装了。
  

• 更换Docker镜像：

  • 如果直接使用Docker,镜像会从官网直接进行拉取，网络会比较慢，因此需要更换镜像源。
    

• 以下为我的代码示例，在registry-mirrors中添加镜像加速地址，可以添加多个，注意用逗号隔开：

{"registry-mirrors":["https://registry.docker-cn.com","https://docker.mirrors.ustc.edu.cn","https://hub-mirror.c.163.com"
],"builder": {"gc": {"defaultKeepStorage": "20GB","enabled": true}},"experimental": false
}

镜像加速器 镜像加速器地址
Docker 中国官方镜像 https://registry.docker-cn.com
DaoCloud 镜像站 http://f1361db2.m.daocloud.io
Azure 中国镜像 https://dockerhub.azk8s.cn
科大镜像站 https://docker.mirrors.ustc.edu.cn
阿里云 https://ud6340vz.mirror.aliyuncs.com
七牛云 https://reg-mirror.qiniu.com
网易云 https://hub-mirror.c.163.com
腾讯云 https://mirror.ccs.tencentyun.com

4、安装WSL

Windows Subsystem for Linux（简称WSL）是一个在Windows 10\11上能够运行原生Linux二进制可执行文件（ELF格式）的兼容层。

1.检查是否已经安装

右键开始菜单，打开管理员PowerShell，终端中输入命令wsl，查看是否有安装：输出：说明已经安装。

若已经安装则跳过此步骤
PS：不用WSL时，可关闭wsl，减少内存占用，命令：

wsl --shutdown

现在，可以使用单个命令安装运行 WSL 所需的一切内容。 在管理员模式下打开 PowerShell 或 Windows 命令提示符，方法是右键单击并选择“以管理员身份运行”，输入 wsl --install 命令，然后重启计算机。

wsl --install

如果你运行的是旧版，或只是不想使用 install 命令并希望获得分步指引，请参阅旧版 WSL 手动安装步骤。

五、访问系统

在浏览器中输入 http://localhost 访问 Dify。

六、添加模型