南通网站建设哪家好,咸宁网站设计制作,wordpress博客登录,化妆品营销型网站模板下载文章目录 1、Dify介绍2、使用 Dify3、部署Docker1.系统要求2.系统虚拟化3.下载docker 4、安装WSL1.检查是否已经安装 五、访问系统六、添加模型 1、Dify介绍
Dify官方地址。
Dify 是一个开源的 LLM 应用开发平台。其直观的界面结合了 AI 工作流、RAG 管道、Agent、模型管理、… 文章目录 1、Dify介绍2、使用 Dify3、部署Docker1.系统要求2.系统虚拟化3.下载docker 4、安装WSL1.检查是否已经安装 五、访问系统六、添加模型 1、Dify介绍
Dify官方地址。
Dify 是一个开源的 LLM 应用开发平台。其直观的界面结合了 AI 工作流、RAG 管道、Agent、模型管理、可观测性功能等让您可以快速从原型到生产。以下是其核心功能列表 工作流: 在画布上构建和测试功能强大的 AI 工作流程利用以下所有功能以及更多功能。 全面的模型支持: 与数百种专有/开源 LLMs 以及数十种推理提供商和自托管解决方案无缝集成涵盖 GPT、Mistral、Llama3 以及任何与 OpenAI API 兼容的模型。完整的支持模型提供商列表可在此处找到。 Prompt IDE: 用于制作提示、比较模型性能以及向基于聊天的应用程序添加其他功能如文本转语音的直观界面。 RAG Pipeline: 广泛的 RAG 功能涵盖从文档摄入到检索的所有内容支持从 PDF、PPT 和其他常见文档格式中提取文本的开箱即用的支持。 Agent 智能体: 您可以基于 LLM 函数调用或 ReAct 定义 Agent并为 Agent 添加预构建或自定义工具。Dify 为 AI Agent 提供了50多种内置工具如谷歌搜索、DALL·E、Stable Diffusion 和 WolframAlpha 等。 LLMOps: 随时间监视和分析应用程序日志和性能。您可以根据生产数据和标注持续改进提示、数据集和模型。 后端即服务: 所有 Dify 的功能都带有相应的 API因此您可以轻松地将 Dify 集成到自己的业务逻辑中。
功能比较
2、使用 Dify
克隆 Dify 源代码至本地
git clone https://github.com/langgenius/dify.git启动Dify:
cd dify/docker
cp .env.example .env
docker compose up -d注意
如果您的系统安装了 Docker Compose V2 而不是 V1请使用 docker compose 而不是 docker-compose。通过 docker compose version检查这是否为情况。
3、部署Docker
根据上面提示用到了dokcer,那么现在就要在本地Windows安装Docker。
1.系统要求
1.1 最低要求 对于 x64 系统版本 1903 或更高版本内部版本为 18362.1049 或更高版本。 对于 ARM64 系统版本 2004 或更高版本内部版本为 19041 或更高版本。1.2 标准 Windows 10 版本 2004 及更高版本内部版本 19041 及更高版本或 Windows 11。
2.系统虚拟化 打开任务管理器选择性能查看CPU虚拟化确认是否已启用默认启用。 如果未启用则需要添加虚拟化功能控制面板 - 启用或关闭Windows功能。 选择Hyper-V的所有功能确定 系统会自动搜索并安装功能。安装完毕即可。 全部打勾然后重启电脑。
3.下载docker docker下载 docker下载地址。 安装 双击安装包下一步即可。
恭喜已经成功完成 Windows 版 Docker 的安装。 但是打开Docker会报错原因是windows运行linux内核系统需要安装Linux 内核更新包。
下载linux内核更新包
参考 WSL 的手动安装步骤—步骤 4 - 下载 Linux 内核更新包
点击下载最新包wsl_update_x64.msi
运行安装向导并按照提示一步一步完成整个安装过程
设置默认wsl默认版本用系统管理员的角色打开windows的powershell然后运行如下命令
wsl --set-default-version 2重启电脑再运行docker就正常了。 打开命令行或者 PowerShell 界面输入docker version命令看到下图就表示成功安装了。 更换Docker镜像 如果直接使用Docker,镜像会从官网直接进行拉取网络会比较慢因此需要更换镜像源。 以下为我的代码示例在registry-mirrors中添加镜像加速地址可以添加多个注意用逗号隔开
{registry-mirrors:[https://registry.docker-cn.com,https://docker.mirrors.ustc.edu.cn,https://hub-mirror.c.163.com
],builder: {gc: {defaultKeepStorage: 20GB,enabled: true}},experimental: false
} 镜像加速器 镜像加速器地址 Docker 中国官方镜像 https://registry.docker-cn.com DaoCloud 镜像站 http://f1361db2.m.daocloud.io Azure 中国镜像 https://dockerhub.azk8s.cn 科大镜像站 https://docker.mirrors.ustc.edu.cn 阿里云 https://ud6340vz.mirror.aliyuncs.com 七牛云 https://reg-mirror.qiniu.com 网易云 https://hub-mirror.c.163.com 腾讯云 https://mirror.ccs.tencentyun.com
4、安装WSL
Windows Subsystem for Linux简称WSL是一个在Windows 10\11上能够运行原生Linux二进制可执行文件ELF格式的兼容层。
1.检查是否已经安装
右键开始菜单打开管理员PowerShell终端中输入命令wsl查看是否有安装输出说明已经安装。 若已经安装则跳过此步骤 PS不用WSL时可关闭wsl减少内存占用命令
wsl --shutdown现在可以使用单个命令安装运行 WSL 所需的一切内容。 在管理员模式下打开 PowerShell 或 Windows 命令提示符方法是右键单击并选择“以管理员身份运行”输入 wsl --install 命令然后重启计算机。
wsl --install如果你运行的是旧版或只是不想使用 install 命令并希望获得分步指引请参阅旧版 WSL 手动安装步骤。
五、访问系统
在浏览器中输入 http://localhost 访问 Dify。 六、添加模型
