网站建设 总体思路,网站系统分析的步骤有哪些,企业门户网站建设与发展趋势,建站行业最新消息目前市面上有不少基于大模型的 Code Copilot 产品#xff0c;部分产品对于个人开发者来说可免费使用#xff0c;比如阿里的通义灵码、百度的文心快码等。这些免费的产品均通过 API 的方式提供服务#xff0c;因此调用时均必须联网、同时需要把代码、提示词等内容作为 API 的…目前市面上有不少基于大模型的 Code Copilot 产品部分产品对于个人开发者来说可免费使用比如阿里的通义灵码、百度的文心快码等。这些免费的产品均通过 API 的方式提供服务因此调用时均必须联网、同时需要把代码、提示词等内容作为 API 的入参在网络中传输和 API 服务器中进行处理这里就涉及到一个比较重要的问题隐私安全 针对小团队私有保密项目、创新团队孵化新产品隐私安全问题就显得格外重要。因此团队内部部署私有的Code Copilot方案就应运而出了 今天老牛同学和大家一起来使用Qwen2-7构建个人或者团队专属的私有化 Code Copilot除了代码生成之外还可以是支持 AI 问答、代码解释、语言转换、生成单元测试用例等功能。不但可以提高我们的研发效率还可以保护我们的代码隐私。
第一步部署私有的大模型Qwen2-7B
前面老牛同学介绍了本地部署大模型和使用教程包括Llama3-8B、Qwen2-7B、GLM4-9B、和Phi3等。大家可以看一下之前的部署教程老牛同学今天使用Qwen2-7B作为我们 Copilot 底层大模型对于本文Code Copilot的部署和使用其他大模型都是一样的看大家的喜好没有特殊要求。
老牛同学这里简单列一下部署教程
环境安装 主要是Miniconda包管理安装参见教程注意只需要安装Miniconda和Python即可其他非必须大模型应用研发基础环境配置Miniconda、Python、Jupyter Lab、Ollama 等https://mp.weixin.qq.com/s/P_ufvz4MWVSqv_VM-rJp9w
Code Copilot底层大模型的部署方式老牛同学验证主要以下 2 种任选一种即可
方式一 基于 Ollama 部署
下载并安装Ollama本地模型管理软件Windows/Mac/Linux 均支持https://ollama.com/download通过 Ollama 下载并启动大模型ollama run qwen2:7b
通过以上 2 步即完成了大模型的部署。特别注意的是GLM系列大模型还不支持 Ollama 管理因此如果你希望用 GLM 系列如GLM4-9B大模型那么请看方式二。
方式二 通过 Python 部署通用方法所有模型都支持以下是老牛同学验证过的部署教程
Phi3Phi-3 模型手机部署教程微软发布的可与 GPT-3.5 媲美的小模型Qwen2-7BQwen2 阿里最强开源大模型Qwen2-7B本地部署、API 调用和 WebUI 对话机器人Llama3-8B玩转 AI笔记本电脑安装属于自己的 Llama 3 8B 大模型和对话客户端GLM4-9B本地部署 GLM-4-9B 清华智谱开源大模型方法和对话效果体验
第二步IDE 安装和配置 Continue 插件
Code Copilot Continue是目前最受欢迎的插件之一它插件的形式使用目前支持VS Code和JetBrains 全家桶这 2 个主流 IDE 的扩展可以在对应的插件市场中直接搜索Continue下载安装。Continue插件的一个最大优势在于它可以指定连接本地或者局域网内的大模型所以对于信息安全高的项目我们完全可以在本地或者局域网内部署大模型然后用Continue插件连接使用在提高开发生产效率同时保护了研发代码的隐私。目前Continue插件的社区活跃GitHub 仓库已达12K星插件版本更新频繁越来越成熟。
因为老牛同学日常使用VS Code较多因此下面的安装和配置基于VS Code完成JetBrains如PyCharm 等的方式类同。
安装 Continue 插件 插件管理器中搜索Continue点击安装安装成功之后重启 IDE 即可。 Continue 插件状态 安装成功并重启之后可以看到VS Code的左侧多了一个Continue按钮。同时右下角也多了一个Continue状态图标√ Continue则代表Continue在 IDE 中生效了Continue则代表Continue在 IDE 未启用。 配置 Continue 插件 点击左下角启用Continue插件然后点击左侧的Continue按钮可以看到一个对话界面点击左下角齿轮形状的配置图标则打开了一个 JSON 格式的配置文件在这里可以配置Continue底层使用的大模型信息 {models: [{title: Qwen2:7B,provider: ollama,model: qwen2:7b},{title: Llama3-8B,provider: openai,model: Local-Model,apiBase: http://127.0.0.1:8000/v1,apiKey: EMPTY,completionOptions: {stop: [|eot_id|]}}],customCommands: [{name: test,prompt: {{{ input }}}\n\nWrite a comprehensive set of unit tests for the selected code. It should setup, run tests that check for correctness including important edge cases, and teardown. Ensure that the tests are complete and sophisticated. Give the tests just as chat output, dont edit any file.,description: Write unit tests for highlighted code}],// tabAutocompleteModel: {// title: Qwen2:7B,// provider: ollama,// model: qwen2:7b// },tabAutocompleteModel: {title: Llama3-8B,model: Local-Model,apiBase: http://127.0.0.1:8000/v1,provider: openai,apiKey: EMPTY},allowAnonymousTelemetry: true,embeddingsProvider: {provider: transformers.js}
}Continue插件的配置信息主要分为 3 块
models 代表所有的模型列表上面样例配置文件老牛同学分别配置了基于Ollama部署的Qwen2-7B大模型和基于OpenAI客户端部署的Llama3-7B大模型也就是涵盖了上面大模型的 2 种不同部署方式的不同配置方式customCommands 自定义给大模型的提示词格式input代表输入内容代码或者文本等可以按照实际需求进行调整tabAutocompleteModel 代码编写过程中当按下代码生成快捷键时Continue生成代码的大模型从models列表里面指定一个即可当然也可以设置一个其他的大模型注意 只能选择一个模型上面样例配置注释掉了一个在实际使用时需要删除掉因为 JSON 不支持注释
第三步使用 Code Copilot Continue 插件
首先启动大模型如Qwen2-7B其次点击 IDE 左下角图标以启用Continue插件然后选择一个对话大模型默认选中第 1 个大模型 使用方式一 我们可以选择不同的大模型进行对话相当于Continue插件提供了一个可视化对话客户端
使用方式二 代码生成也是本文的重点下面老牛同学以快速排序算法为例来如何利用Continue完成代码编写
【场景一AI 对话代码同步】
使用大模型对话能力写出快速排序算法代码Prompt 提示词请提供一下功能代码Python 实现快速排序算法函数大模型很好的实现了算法逻辑并且给了很多的说明和解释选中快速排序算法函数的代码然后按下CTRLShiftL快捷键或者点击代码框右上角的Apply to current file按钮Python 自动同步到了编辑器中了 【场景二代码自动补全】
在编辑器中只需要输入注释内容不要按回车键# Python实现快速排序算法函数然后按下CTRLShiftL快捷键然后在按下回车键可以看到代码已经生成可以按Tab键使用代码 【场景三增加单元测试代码】
在编辑器中选中一段代码函数然后按下CTRLI快捷键然后在弹出的CtrlI指令框中输入增加代码测试代码然后按下回车键可以看到生成了测试用例代码 【场景四代码自动填充对话框】
在编辑器中选中一段代码然后按下CtrlL快捷键代码自动填充到了左侧的对话框中可以在对话框中继续输入指令如请解释一下这段代码然后按回车键提交大模型 【其他场景】
增加注释代码异常堆栈分析…… 其他请大家补充
最后
使用开源大模型作为团队的 Code Copilot 工具可以提高团队的开发效率同时也可以保护团队的代码隐私。虽然目前开源的 LLM 相比闭源商用的 LLM 还有一些差距但是随着开源 LLM 的不断发展相信两者的差距以后会越来越小。以上就是今天介绍的内容希望对大家有所帮助。 关注本公众号我们共同学习交流进步 Phi-3 开源大模型
Phi-3 模型手机部署教程微软发布的可与 GPT-3.5 媲美的小模型
Qwen2-7B 开源大模型
Qwen2 阿里最强开源大模型Qwen2-7B本地部署、API 调用和 WebUI 对话机器人
Llama-3-8B 开源大模型
玩转 AI笔记本电脑安装属于自己的 Llama 3 8B 大模型和对话客户端
一文彻底整明白基于 Ollama 工具的 LLM 大语言模型 Web 可视化对话机器人部署指南
基于 Llama 3 搭建中文版Llama3-Chinese-Chat大模型对话聊天机器人
GLM-4-9B 开源大模型
本地部署 GLM-4-9B 清华智谱开源大模型方法和对话效果体验
ChatTTS 文本转语音模型
ChatTTS 开源文本转语音模型本地部署、API 使用和搭建 WebUI 界面
Stable Diffusion 3 文生图模型
Stable Diffusion 3 文生图“开源英雄”大模型本地部署和使用教程轻松实现 AI 绘图自由
大模型应用实战
大模型应用研发基础环境配置Miniconda、Python、Jupyter Lab、Ollama 等
借助 AI 大模型三分钟原创一部儿童故事短视频附完整操作步骤
高效编写大模型 Prompt 提示词解锁 AI 无限创意潜能
Python 小游戏
AI 已来我与 AI 一起用 Python 编写了一个消消乐小游戏
Python 游戏编程一步步用 Python 打造经典贪吃蛇小游戏
