上海 网站建设,w10怎么做信任网站,企业网站制作,建设银行广西分行招聘网站引言
在当今这个信息爆炸的时代#xff0c;用户对于在线服务的需求越来越趋向于即时性和个性化。无论是寻找产品信息、解决问题还是寻求建议#xff0c;人们都期望能够获得即时反馈。这对企业来说既是挑战也是机遇——如何在海量信息中脱颖而出#xff0c;提供高效且贴心的…引言
在当今这个信息爆炸的时代用户对于在线服务的需求越来越趋向于即时性和个性化。无论是寻找产品信息、解决问题还是寻求建议人们都期望能够获得即时反馈。这对企业来说既是挑战也是机遇——如何在海量信息中脱颖而出提供高效且贴心的服务答案之一就是利用现在炙手可热的AI技术。
阿里云百炼平台为企业提供了一种快速、便捷的方式来实现这一目标。通过集成百炼平台上的 AI 助手企业可以在短短十分钟内为自己的网站增添一个智能客服系统从而显著提升用户体验同时降低人工客服的成本与压力。
本文将详细介绍如何使用阿里云百炼平台在您的网站上部署一个功能完善的 AI 助手。我们将从创建项目开始一步步指导您完成配置并最终让 AI 助手上线运行。无论您是技术背景深厚的专业人士还是对此领域有所了解的产品经理本指南都将帮助您轻松掌握这一过程。
此处附上学习地址欢迎朋友们多交流探讨
阿里云百炼实训营
百炼控制台
另附笔者之前的文章里面也是较为详细的阐述了百炼平台的基础使用可供大家学习或参考精铸智刃·“百炼”成钢——深度探索阿里云百炼大模型开发平台
基于阿里云百炼平台及函数计算快速上线一个网页AI助手
本文的产品方案地址如下https://www.aliyun.com/solution/tech-solution/add-an-ai-assistant-to-your-website-in-10-minutes 亲测整个流程体验下来大约耗时10分钟。 主要分为以下四个步骤 创建大模型应用
首先需要通过百炼创建一个大模型应用并获取调用大模型应用 API 的相关凭证如果有私有模型也可直接调用私有模型的接口此处还是以百炼平台的大模型应用为例因为比较方便。
进入百炼平台点击【我的应用】选择【创建应用】。 在此处任意选择一个即可但是注意不同的模型计价不同 具体的计价表周周这里也整理出来了如下图所示 其中通义千问-Max是通义千问2.5系列千亿级别超大规模语言模型支持中文、英文等不同语言输入也是这几个里面参数量最大的。
不过为了节省周周还是使用了价格稍便宜的通义千问-Plus。 这里大家也可以看到除了模型选择外在参数设置中还有温度系数、最长回复长度和携带上下文轮数三个可控参数。 温度系数调控生成的多样性。 最长回复长度模型生成的长度限制不包含prompt。允许的最大长度因模型不同有所改变。 携带上下文轮数设置输入模型的最大历史对话轮数轮数越多对话相关性越强。
后面两个是比较好理解的这里着重说明一下温度系数的概念。
温度系数定义
温度系数是一个介于0到正无穷之间的数值通常在实际应用中设定在一个较小的范围内比如0到2之间。它是基于统计物理学中的概念在机器学习中被用来模拟系统的随机性。
温度系数的作用 确定性 vs 随机性 当温度系数接近0时模型倾向于选择概率最高的下一个词这使得生成的文本更为确定和保守但也可能导致重复或缺乏创意的结果。 当温度系数接近1时模型的选择接近于均匀分布这意味着模型将根据所有候选词汇的概率分布来做出选择这增加了生成文本的多样性和随机性。 当温度系数大于1时模型的选择变得更加随机甚至可能选择一些概率较低的词汇这可能会导致生成的文本更具创新性但也可能不太连贯。 平衡探索与利用
温度系数可以帮助平衡模型在探索新文本尝试不同的生成路径与利用已知高概率路径之间的权衡。
那么不同的场景到底适合什么样的温度呢一般而言低温度适合于需要高度准确和一致性的应用场景如代码生成、专业文档编写等中等温度适用于大多数通用场景可以产生既连贯又有一定创造性的文本高温度适用于需要大量创意和多样性的场景如故事创作、诗歌生成等。
这里针对上面场景举一个简单的例子。
假设模型预测下一个词的概率分布如下 当我温度系数0.1几乎总是选择猫因为它是概率最高的选项。
当我温度系数1.0按照原始概率分布进行选择猫仍然是最可能的选项但狗和鱼也会被选择。
当我温度系数2.0选择变得更为随机即使是概率较低的词汇也有可能被选中。
对照上面的例子相信也很容易明白我们现在的场景需要一定的专用性和通用性但是专用性要求更高所以温度系数必定选择在01之间这里建议调整为0.40.6的这个区间具体情况还需根据反复调试来判断。 完成后点击右上角【发布应用】。 返回我的应用页面点击查看我的API-KEY在弹出窗口中创建一个新API-KEY。 回到应用列表可以查看所有百炼应用 ID。 搭建示例网站
进入函数计算界面选择准备好的应用模板快速搭建一个空白的示例网站。
点击【直接部署】填写前面获取到的百炼应用 ID 以及 API-KEY。 然后其他表单项保持默认点击页面左下角的创建并部署默认环境等待项目部署完成即可预计耗时 1 分钟。 应用部署完成后您可以在应用详情的环境信息中找到示例网站的访问域名点击即可查看确认示例网站已经部署成功。 为网站增加 AI 助手
回到应用详情页在环境详情的最底部找到函数资源点击函数名称进入函数详情页。 进入函数详情页后在代码视图中找到public/index.html文件然后取消红框所在位置的代码注释即可。 最后点击部署代码等待部署完成即可。 重新访问示例网站页面以查看最新效果。 为 AI 助手增加私有知识
在接入成功后你会发现虽然能够调用模型能力但是对于本地的知识却完全不了解下面我们可以添加一些公司的相关产品资料工作文档等。
回到百炼控制台的【数据管理】中点击导入数据根据引导上传我私有知识库 进入知识索引根据引导创建一个新的知识库并选择刚才上传的文件其他参数保持默认即可。知识库将为上一步骤中准备的文档建立索引以便后续大模型回答时检索参考。
【注释】选择向量存储类型时如果您希望集中存储、灵活管理多个应用的向量数据可选择ADB-PG。 完成知识库的创建后可以返回我的应用进入到刚才创建的应用设置界面打开知识检索增强开关、选择知识库测试验证符合预期后点击发布。Prompt 中会被自动添加一段信息以便大模型在后续回答时参考检索出来的信息。 我们检验一下效果此处我使用的自己的知识库 应用于生产环境
该网页AI助手的前端是基于NLUX一个用于开发大模型对话机器人的前端库开发的如果您对于 AI 助理有更多定制化的需求如希望调整样式、支持历史会话管理等可以参考 NLUX 的文档进行定制开发。
前端示例代码
link relstylesheet crossorigin hrefhttps://g.alicdn.com/aliyun-documentation/web-chatbot-ui/0.0.14/index.css /
script typemodule crossorigin srchttps://g.alicdn.com/aliyun-documentation/web-chatbot-ui/0.0.14/index.js/script
scriptwindow.CHATBOT_CONFIG {endpoint: /chat, // 可以替换为 https://{your-fc-http-trigger-domain}/chatdisplayByDefault: false, // 默认不展示 AI 助手聊天框aiChatOptions: { // aiChatOptions 中 options 会传递 aiChat 组件自定义取值参考https://docs.nlkit.com/nlux/reference/ui/ai-chatconversationOptions: { // 自定义取值参考https://docs.nlkit.com/nlux/reference/ui/ai-chat#conversation-optionsconversationStarters: [{prompt: 哪款手机续航最长},{prompt: 你们有哪些手机型号},{prompt: 有折叠屏手机吗?},]},displayOptions: { // 自定义取值参考https://docs.nlkit.com/nlux/reference/ui/ai-chat#display-optionsheight: 600,},personaOptions: { // 自定义取值参考https://docs.nlkit.com/nlux/reference/ui/ai-chat#chat-personasassistant: {name: 你好我是你的 AI 助手,// AI 助手的图标avatar: https://img.alicdn.com/imgextra/i2/O1CN01Pda9nq1YDV0mnZ31H_!!6000000003025-54-tps-120-120.apng,tagline: 您可以尝试点击下方的快捷入口开启体验,}}},dataProcessor: {/*** 在向后端大模型应用发起请求前改写 Prompt。* 比如可以用于总结网页场景在发送前将网页内容包含在内同时避免在前端显示这些内容。* param {string} prompt - 用户输入的 Prompt* param {string} - 改写后的 Prompt*/rewritePrompt(prompt) {return prompt;}}};
/script
style:root {/* webchat 工具栏的颜色 */--webchat-toolbar-background-color: #1464E4;/* webchat 工具栏文字和按钮的颜色 */--webchat-toolbar-text-color: #FFF;}/* webchat 对话框如果被遮挡可以尝试通过 z-index、bottom、right 等设置来调整位置 */.webchat-container {z-index: 100;bottom: 10px;right: 10px;}/* webchat 的唤起按钮如果被遮挡可以尝试通过 z-index、bottom、right 等设置来调整位置 */.webchat-bubble-tip {z-index: 99;bottom: 20px;right: 20px;}
/style服务端代码
前面创建的示例网站代码中包含了一个调用大模型获取答案的接口POST /chat具体实现代码在文件index.js中。
函数计算应用部署时附带的 .devsapp.net 域名会在下发后 30 天内回收且不支持 https 访问只适合于测试验证。如果您希望在您的网站上直接调用函数计算中部署的POST /chat接口建议使用函数计算 http 触发器中提供的域名如https://web-chat**.fcapp.run/chat。与此同时建议您修改index.js中的 cors 配置禁止其他站点对此接口的访问。 总结
在这个数字化转型加速推进的时代利用AI技术提升在线服务的质量已成为企业成功的关键因素之一。阿里云百炼平台不仅简化了AI助手的部署流程还帮助企业实现了服务的即时性和个性化从而更好地满足客户需求。
通过遵循本文档中的步骤您已经能够快速地在自己的网站上部署一个功能全面的AI助手。这不仅能显著改善用户体验还能有效减少客户服务部门的工作负担使企业能够在激烈的市场竞争中脱颖而出。
