室内设计可以做网站吗,贵州网站建设培训,手机net网站开发,网站设计建设价格什么是spring-ai
Spring AI 是一个与 Spring 生态系统紧密集成的项目#xff0c;旨在简化在基于 Spring 的应用程序中使用人工智能#xff08;AI#xff09;技术的过程。 简化集成#xff1a;Spring AI 为开发者提供了方便的工具和接口#xff0c;使得在 Spring 应用中集…什么是spring-ai
Spring AI 是一个与 Spring 生态系统紧密集成的项目旨在简化在基于 Spring 的应用程序中使用人工智能AI技术的过程。 简化集成Spring AI 为开发者提供了方便的工具和接口使得在 Spring 应用中集成 AI 功能变得更加容易避免了手动处理底层细节的复杂性。
spring-ai具备什么功能
下面是spring官方文档介绍 Spring AI API 涵盖了广泛的功能。 每个主要功能都在其单独的部分中进行了详细说明。 为了提供概述提供了以下关键功能
跨 AI 提供商的可移植 API用于聊天、文本到图像和嵌入模型。支持同步和流 API 选项。还支持下拉以访问特定于模型的功能。我们支持来自OpenAIMicrosoftAmazonGoogleHuggingface等的AI模型。跨 Vector Store 提供程序的可移植 API包括新颖的类似 SQL 的元数据过滤器 API该 API 也是可移植的。支持 8 个向量数据库。函数调用。Spring AI 可以轻松地让 AI 模型调用您的 POJO java.util.Function 对象。AI 模型和矢量存储的 Spring Boot 自动配置和启动器。用于数据工程的 ETL 框架。这为将数据加载到向量数据库提供了基础有助于实现检索增强生成模式使您能够将数据引入 AI 模型以合并到其响应中。
** 总结来说。通过spring-ai的提供的api功能可以方便的实现大模型相关的相关功能。例如对话提示文生图等功能。**
接入chatGpt
spring-ai官方提供了一个demo ai-openai-helloworld 这个demo中可以通过简单的配置实现会话功能但是没有提供设置代理的功能国内使用的话会请求超市无法访问社区也有相关的反馈 因此我稍微改写了这个demo提供了设置代理的功能。完善了相关配置
项目介绍
在ai-openai-helloworld基础上进行了一些修改完善可一些配置文件增加了代理的配置。国内可以通过配置代理访问openAI。 项目地址spring-ai-chatgpt 实现了3个demo 1、简单回话全部生成完毕返回
curl --location http://localhost:8080/ai/simple?messageTell me a joke返回完整的生成回话 2、流式回话
curl --location http://localhost:8080/ai/stream?messageTell me a joke3、消息的模板提示和对gpt相应的结果自动映射到java类
curl --location http://localhost:8080/ai/template?author李白例如这个例子中我们像gpt提问请列出关于李白相关的诗词题目spring-ai可以自动帮我们解析成java对象
启动项目
需要修改application.yml文件 填写正确的apiKey。与代理服务器的配置即可启动项目
spring:ai:proxy:host: 127.0.0.1port: 1080openai:api-key: xxxxchat:options:model: gpt-3.5-turbo
接口说明 /*** 对话接口,回话生成完毕返回* param message* return*/GetMapping(/ai/simple)public MapString, String completion(RequestParam(value message, defaultValue Tell me a joke) String message) {return Map.of(generation, chatClient.call(message));}/*** 流式对话接口** param message* return*/GetMapping(/ai/stream)public SseEmitter streamCompletion(RequestParam(value message, defaultValue Tell me a joke) String message) {SseEmitter emitter new SseEmitter(5L * 60 * 1000);FluxString stream chatClient.stream(message);stream.subscribe(it - {try {System.out.println(it);emitter.send(it, MediaType.TEXT_EVENT_STREAM);} catch (IOException e) {System.out.println(sse发送消息失败);emitter.completeWithError(e);}});stream.doOnError(e - {System.out.println(流式对话发生异常);emitter.completeWithError(e);});stream.doOnComplete(emitter::complete);return emitter;}/*** 模板对话接口可以用于提示用户也可以引导chatGpt的回答* 可以对chat的回答指定格式轻松转换为java的实体类** return*/GetMapping(/ai/template)ResponseBodypublic AuthorPoems templateCompletion(RequestParam(value author, defaultValue 李白) String author) {var outputParser new BeanOutputParser(AuthorPoems.class);String message 请列出关于{author}相关的诗词题目{format};PromptTemplate promptTemplate new PromptTemplate(message, Map.of(author, author, format, outputParser.getFormat()));Prompt prompt promptTemplate.create();Generation generation chatClient.call(prompt).getResult();AuthorPoems authorPoems outputParser.parse(generation.getOutput().getContent());return authorPoems;}项目结构
整个项目十分简单代码很少。主要为了实现设置代理类重写了了openai一些接口
