湖南省工程建设信息官方网站,去哪家装修公司,注册公司去哪里注册,淘宝客的网站是自己做的吗前言
食品企业在管理标准、法规#xff0c;特别是食品原料、特殊食品法规时#xff0c;难以通过速查法规得到准确的结果。随着AI技术的发展#xff0c;互联网上出现很多AI知识库的解决方案。
经过一轮测试#xff0c;找到问题抓手、打通业务底层逻辑、对齐行业颗粒度、沉…前言
食品企业在管理标准、法规特别是食品原料、特殊食品法规时难以通过速查法规得到准确的结果。随着AI技术的发展互联网上出现很多AI知识库的解决方案。
经过一轮测试找到问题抓手、打通业务底层逻辑、对齐行业颗粒度、沉淀方法论、打通业务壁垒、形成业务闭环、提升用户感知度、赋能AI新赛道。
作者测试了钉钉内置AI、Defy.AI、fastGPT、FoodGPT、通义法睿、RAGflowLM Studio、AnythingLLM优缺点如下:
AI优点缺点钉钉内置AI零代码部署、免费一本正经地胡说八道、不保证数据安全。知识库占用云盘空间Defy.AI在线版零代码部署本地版安全可控在线版收费、不保证数据安全本地部署难度高。一本正经地胡说八道AnythingLLM零代码本地部署一本正经地胡说八道fastGPT在线版零代码部署本地版安全可控。在线版收费、不保证数据安全本地部署难度高。本地、在线版都收费。FoodGPT回答精准针对食品行业优化收费不能定制通义法睿回答精准、详实不能定制RAGflowLM Studio本地低代码部署回答较为精准。自由选择模型。可定制。性能不太好
收费模式每个问题多少钱或按照embedding和提问小号的Token数收费。
硬件、环境要求
电脑至少需要4核CPU、16GB内存、50GB硬盘
需要魔法上网或者自己配置Docker、Git、HuggingFace国内源
Windows 推荐使用企业版或服务器版
需要基础的读Windows和Linux代码能力解决报错的能力
部署LM Studio
在lmstudio.ai 下载LM Studio在ModelScope或Huggingface下载大语言模型文件文件格式必须是.gguf)将模型导入至LM Studio后创建LocalSever记住端口号
部署RAGflow
按照GitHub infiniflow/ragflow的步骤部署即可注意软件不要放在C盘注意软件不要放在C盘注意软件不要放在C盘
浏览器输入网址http://localhost/login先注册账号
配置好Model ProvidersBase url填写http://host.docker.internal:[LM Studio端口号]/v1/models
切换到Knowledge Base上传文件即可支持word、excel、pdf、txt、图片等格式可以选择文件类型如图书、文献、法律等模型不要改
上传后要在Action列中点绿色开始键开始embedding完成后才算完成知识库导入
切换到Chat标签页点击Create an Assisstant
Knowledgebase选中导入的知识库切换到Model Setting中Model选择模型Freedom选择Precise
大功告成可以提几个问题测试模型是否正常运行
运行
与ChatGPT一样可以直接向AI提问见下图 总体效果挺好回答基本不会胡说八道并给出了出处。
优缺点
优点 配置简单。 众所周知N卡普遍显存很小但是A卡配置ROCm很麻烦。LM Studio可以一键部署CUDA或ROCm免除复杂的环境配置。RAGflow运行在Docker直接免除用户配置anaconda、python、pytorch等软件。 很好地减轻了AI一本正经的胡说八道的问题。 RAG Flow支持手动微调Embedding分块。 完全本地运行数据安全可控。
缺点
既吃CPU内存又吃GPU显存需要配置很高的主机。如果需要在企业部署还要配置域名解析对RAGflow做二次开发甚至要做显卡阵列。RAGflow不支持原生调用显卡加速embedding非常耗时。RAGflow性能不太好与在线托管的AI知识库相比响应速度有明显差距对数据安全不敏感的不建议使用RAGflow。
其他用法
除了做法规数据库可以导入各类工作文件比如公司规章制度、工作流程沉淀的工作资料收集的市场报告、文献、专利等。
使用数学模型甚至可能可以做数据处理和统计分析。
如何学习AI大模型
作为一名热心肠的互联网老兵我决定把宝贵的AI知识分享给大家。 至于能学习到多少就看你的学习毅力和能力了 。我已将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。
这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】 一、全套AGI大模型学习路线
AI大模型时代的学习之旅从基础到前沿掌握人工智能的核心技能 二、640套AI大模型报告合集
这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。 三、AI大模型经典PDF籍
随着人工智能技术的飞速发展AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型如GPT-3、BERT、XLNet等以其强大的语言理解和生成能力正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。 四、AI大模型商业化落地方案 作为普通人入局大模型时代需要持续学习和实践不断提高自己的技能和认知水平同时也需要有责任感和伦理意识为人工智能的健康发展贡献力量。
