江门恒达互联网网站建设,做网站怎么赚零花钱,专门做网站的公司,网站seo具体怎么做?如今#xff0c;大模型层出不穷#xff0c;这为自然语言处理、计算机视觉、语音识别和其他领域的人工智能任务带来了重大的突破和进展。大模型通常指那些参数量庞大、层数深、拥有巨大的计算能力和数据训练集的模型。
但不能不承认的是#xff0c;普通人使用大模型还是有一…
如今大模型层出不穷这为自然语言处理、计算机视觉、语音识别和其他领域的人工智能任务带来了重大的突破和进展。大模型通常指那些参数量庞大、层数深、拥有巨大的计算能力和数据训练集的模型。
但不能不承认的是普通人使用大模型还是有一定门槛的首先大模型通常需要大量的计算资源才能进行训练和推理。这包括高性能的图形处理单元GPU或者专用的张量处理单元TPU以及大内存和高速存储器。说白了本地没N卡就断了玩大模型的念想吧。
其次大模型的性能往往受到模型调优和微调的影响。这需要对模型的超参数进行调整和优化以适应特定任务或数据集。对大模型的调优需要一定的经验和专业知识包括对深度学习原理和技术的理解。
那么如果不具备相关专业知识也没有专业的设备同时也想开发属于自己的基于AI大模型的应用怎么办本次我们使用在线的云雀大模型来打造属于自己的AI应用。
构建线上AI应用
首先访问扣子应用的官网
https://www.coze.cn/home注册成功之后我们需要一个创意也就是说我们到底想要做一个什么应用这个应用的功能是什么当然关于创意AI是帮不了你的需要自己想比如笔者的代码水平令人不敢恭维平时在CodeReView时经常被同事嘲笑没办法有的人就是没有代码洁癖为了避免此种情况经常发生想要打造一款AI机器人能够在代码提交之前帮忙审核代码检查语法的错误并给出修改意见和性能层面优化的方案。
此时点击创建Bot 如上图所示这里输入应用的名称和描述至于应用图标可以让AI生成一个。
工作流 WorkFlow
工作流指的是支持通过可视化的方式对插件、大语言模型、代码块等功能进行组合从而实现复杂、稳定的业务流程编排。
我们的工作流非常简单第一步用户输入代码第二步大模型检查代码第三步大模型返回修改意见。
点击创建工作流输入的参数变量为code数据类型可以选择四种即字符串、整形、布尔和数字这里代码显然选择字符串。
接着接入大模型引导词这样填写
你是一位经验丰富的程序员擅长PythonHTMLCSSJavaGolang等语言请检查{{input}}这段代码的语法给出修改的建议并且给出代码性能优化的多种修改方案。通过引导词来让大模型针对输入的代码进行检测。
最后返回大模型输入的修改意见。
如图所示 随后可以运行整个工作流进行测试大模型返回
{ output: 可优化项目与建议\n- 建议使用 try-except 结构来捕获所有类型的异常然后进行统一处理。\n- 建议添加代码注释增强代码的可读性。\n\n优化后的代码如下所示\npython\ndef make_tran():\n \\\\n 该函数用于将 video.srt 文件中的英文翻译成中文并将翻译结果写入 two.srt 文件\n\n Returns\n str: \翻译完毕\表示翻译过程已完成\n \\\\n # 从预训练模型中加载 tokenizer 和 model\n tokenizer AutoTokenizer.from_pretrained(\Helsinki-NLP/opus-mt-en-zh\)\n model AutoModelForSeq2SeqLM.from_pretrained(\Helsinki-NLP/opus-mt-en-zh\)\n # 打开 video.srt 文件并读取其中的内容\n with open(\./video.srt\, r, encoding\utf-8\) as file:\n gweight_data file.read()\n # 将读取到的内容按换行符分割成多个段落并存储在 result 列表中\n result gweight_data.split(\\\n\\n\)\n # 如果 two.srt 文件存在则将其删除\n if os.path.exists(\./two.srt\):\n os.remove(\./two.srt\)\n # 遍历 result 列表中的每个段落\n for res in result:\n # 将每个段落按换行符分割成多个句子并存储在 line_srt 列表中\n line_srt res.split(\\\n\)\n # 尝试对每个句子进行翻译\n try:\n # 使用 tokenizer 对句子进行预处理以便模型可以处理它们\n tokenized_text tokenizer.prepare_seq2seq_batch([line_srt[2]], return_tensorspt)\n # 使用模型进行翻译\n translation model.generate(**tokenized_text)\n # 使用 tokenizer 将翻译结果解码为文本\n translated_text tokenizer.batch_decode(translation, skip_special_tokensFalse)[0]\n # 移除翻译结果中的填充字符和结束符号并去除首尾的空格\n translated_text translated_text.replace(\pad\, \\).replace(\/s\, \\).strip()\n # 打印翻译结果\n print(translated_text)\n # 将翻译结果写入 two.srt 文件\n with open(\./two.srt\, \a\, encoding\utf-8\) as f:\n f.write(f\{line_srt[0]}\\n{line_srt[1]}\\n{line_srt[2]}\\n{translated_text}\\n\\n\)\n # 如果在翻译过程中发生任何异常则打印异常信息并跳过当前句子\n except Exception as e:\n print(str(e))\n # 返回 \翻译完毕\表示翻译过程已完成\n return \翻译完毕\\n
}如此就完成了一个代码检查和优化的工作流说白了就是给用户一个没有token限制并且无限次使用的大模型并且跳过prompt环节直接简单粗暴返回垂直内容的解决方案。
发布应用
构建好应用之后我们可以在其他平台发布让更多人使用该应用这里以飞书为例子飞书是一站式协同办公平台为企业提供各种数字化办公解决方案大部分公司都在使用。 随后在公司群里就可以直接调用自己的应用了 结语
尽管使用大模型可能具有一些挑战但随着技术的进步和资源的可用性大模型的门槛正在逐渐降低。这为更多的普通人、无编程背景的爱好者提供了利用大模型来解决对于个人垂直领域相对复杂任务的机会。
