用什么做网站后台的,织梦网站怎么上传,安徽建设监理协会,郓城网站开发:::info 本文是“在Serverless平台上构建AIGC应用”系列文章的第一篇文章。 ::: 前言
随着ChatGPT 以及 Stable Diffusion,Midjourney 这些新生代 AIGC 应用的兴起#xff0c;围绕AIGC应用的相关开发变得越来越广泛#xff0c;有呈井喷之势#xff0c;从长远看这波应用的爆… :::info 本文是“在Serverless平台上构建AIGC应用”系列文章的第一篇文章。 ::: 前言
随着ChatGPT 以及 Stable Diffusion,Midjourney 这些新生代 AIGC 应用的兴起围绕AIGC应用的相关开发变得越来越广泛有呈井喷之势从长远看这波应用的爆发不仅仅是停留在形式之上更是在各个领域产生实际的生产力价值比如办公领域有copilot system 365,钉钉智能 代码编程领域有 github copilot ,cursor ide; 文娱领域的妙鸭相机可以肯定的是未来 AIGC 的应用数量会更多类型也会更加丰富企业的内部软件或者SOP都会尽可能的跟AI进行融合这必然催生出海量的AIGC应用开发需求这也代表着巨大的市场机会。
开发 AIGC 应用的挑战
AIGC 的应用前景如此诱人可能决定企业未来的发展走向。然而对很多中小企业及开发者而言上手进行aigc应用的开发依然有着非常高昂的成本
基础模型服务的获取chatgpt提供了非常完善的api 开发体系然而并不开放给国内客户使用开源的模型进行服务的部署非常困难高昂的费用 GPU 短缺导致 GPU 的费用急剧飙升本地购买高规格显卡需要一次性花费不少的成本并且并不能提供在线服务。端到端的对接单纯模型服务的api无法变成直接的生产力需要完成【企业数据企业SOP】- LLM 服务 - 各种端侧的完整链路
函数计算AIGC应用的解决方案
函数计算围绕创建和使用AIGC从基础设施到应用生态开发端到使用端提供的完整的配套 主要包含三个部分
一 、模型服务底座函数计算可以部署来自魔搭huggingface等开元社区的ai模型我们针对 LLM Bert等智能知识库/助手 场景做了专门的定制接入OpenAI兼容的api规范提供一键部署的模版和可视化的web访问界面帮助开发者或者企业快速上手 llama2,chatglm2,通义千问等模型的部署二、业务连接层 串联业务需求以及的模型服务安全服务数据库服务等基础资源这部分有在AIGC应用部分有很多相同的逻辑比如账号体系数据集管理提示词模版工具管理模型服务管理等从各业务侧视角看不一样的部分只是 提示词知识库以及工具集底层的模型服务安全服务数据库服务则是共享的这层可以简化业务里面构建不同智能场景的流程快速低成本的可以构建不同业务的AIGC应用三、客户端侧客户端是AI应用的使用部分也是最接近业务的部分这部分更多的考虑是如何将AI服务融入已有的使用端比如钉钉企业微信等办公IM系统以及web浏览器插件等通过 函数计算eventbridge可以快速帮助ai服务接入到这些客户端
本篇教程先来分享一下第一个部分如何通过函数计算快速部署 AIGC相关模型服务包括LLM模型 和Embedding(Bert) 模型
LLM模型及Embedding服务部署教程
前期准备
使用该项目您需要有开通以下服务 对 AIGC 进行 CPU/GPU 推理计算 https://free.aliyun.com/?pipCodefc 存储大语言模型以及Embedding服务所需要的模型, 新用户请先领取免费试用资源包 https://free.aliyun.com/?product9657388crowdpersonal 应用介绍
应用详情
使用阿里云函数计算部署开源大模型应用提供兼容openai规范的接口和ChatGPT-Next-Web客户端.
操作文档
llm应用模版
登录到阿里云函数计算控制台-应用-创建应用- 人工智能 选择AI大语言模型API服务应用模板点击立即创建
应用模版设置 设置好知道点击创建并部署默认环境
等待部署
该过程您会自动完成
服务访问 服务部署成功之后会返回两个链接 1、llm-server 为大语言模型的api服务界面基于swagger 2、llm-client则是访问客户端,访问客户端需要您输入前面填写的客户端私有密码填写好之后就可以测试使用了
embedding模版
登录到阿里云函数计算控制台-应用-创建应用- 人工智能 选择“开源Bert模型服务”应用模板点击立即创建
应用模版设置
选择好地域创建即可
等待部署
该过程您会自动完成
服务访问 测试embedding接口 总结
部署好LLM服务意味着您已经开启了AIGC应用的开发旅程接下来我会继续跟大家分享更多关于AIGC相关的内容包括如何构建知识库问答应用如何调用工具完善大语言模型的能力如何接入自己的IM系统和构建web的集成插件。
宇宙漫游阿里云 x 森马 AIGC T恤设计大赛
一、
**【森马X阿里云 AIGC T恤设计大赛】**程序员AIGC 自己的T恤赢Airpods图案定制T恤 通过函数计算FC 快捷部署 Stable Diffusion内置模型库常用插件ControlNet支持 SDXL1.0
立即参加https://developer.aliyun.com/adc/series/activity/aigc_design 可赢取Airpods三代作品定制联名体恤森马行李箱等周边
二、
还可以参加话题活动一起讨论 AIGC 的未来发展趋势用户可从任意角度交流分享可以赢得护眼台灯、数据线、静音净化器奖品 话题《相比优秀的服装设计师AIGC 可以如何突破设计灵感的界限是纯粹的机械语言还是一点点的灵光乍现》 https://developer.aliyun.com/ask/548537?spma2c6h.13148508.setting.14.4a894f0esFcznR
