文化馆网站数字化建设介绍,网站开发加设计要多少钱,市场调研报告怎么写的,丰台广州网站建设一、人工智能#xff08;Artificial Intelligence#xff0c;缩写为AI#xff09;
人工智能#xff08;Artificial Intelligence#xff0c;缩写为AI#xff09;是一门新的技术科学#xff0c;旨在开发、研究用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统…一、人工智能Artificial Intelligence缩写为AI
人工智能Artificial Intelligence缩写为AI是一门新的技术科学旨在开发、研究用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统它结合了数学、计算机科学、心理学等多学科的理论通过让计算机模拟人类的思考和行为过程实现人机交互提高计算机的智能水平以更好地服务于人类社会
A system is ability to correctly interpret external data, to learn from such data, and to use those learnings to achieve specific goals and tasks through flexible adaptation.
系统正确解释外部数据的能力从这些数据中学习的能力以及通过灵活的适应利用这些学习来实现特定目标和任务的能力
一人工智能AI历史背景可追溯至工业革命
1、第一次工业革命18世纪60年代~19世纪中期大约是1760年到1860年 也称为蒸汽时代发源于英格兰中部地区是资本主义工业化的早期阶段 蒸汽机的发明及运用成为了这个时代的标志因此历史学家称这个时代为“蒸汽时代” 蒸汽时代的显著特征是机械化生产和大规模生产推动了生产力的飞跃带来了极大的经济增长 这一时期也出现了第一批大型企业和跨国公司
2、第二次工业革命19世纪下半叶~20世纪初大约1851年到1910年 也称电气时代电力、化学、石油等工业得以大发展 这一时期的标志是从机械化向自动化的转变由于电力的应用和化学工业的发展生产效率得到了进一步提高加速了工业化的进程
3、第三次工业革命20世纪后半期大约1945年到2000年 也称为信息时代以原子能、电子计算机、空间技术和生物工程的发明和应用为主要标志涉及信息技术、新能源技术、新材料技术、生物技术、空间技术和海洋技术等诸多领域的一场信息控制技术革命 这一时期的特点是信息技术和数字技术的广泛应用推动了社会生产力的又一次飞跃
4、第四次工业革命21世纪初至今大约2000年开始直到现在的这段时间 也称工业4.0时代或智能化时代这个时代以互联网产业化工业智能化工业一体化为代表以人工智能清洁能源无人控制技术量子信息技术虚拟现实以及生物技术为主的全新技术革命; 这一阶段主要依赖于互联网、物联网、大数据、人工智能等新兴技术的深度融合和创新应用旨在实现更高效、更智能、更可持续的生产和生活方式
二人工智能AI发展趋势
1、起步发展期1943年—20世纪60年代 1943 - 1969年 1943年提出神经元的数学模型这是现代人工智能学科的奠基石之一 1950年艾伦·麦席森·图灵Alan Mathison Turing提出“图灵测试”测试机器是否能表现出与人无法区分的智能让机器产生智能这一想法开始进入人们的视野 1956年正式使用了人工智能artificial intelligenceAI这一术语
2、反思发展期20世纪70年代1970 - 1979年 计算力及理论等的匮乏使得不切实际目标的落空人工智能的发展走入低谷
3、应用发展期20世纪80年代 1980 - 1989年 人工智能走入应用发展的新阶段专家系统模拟人类专家的知识和经验解决特定领域的问题实现了人工智能从理论研究走向实际应用、从一般推理策略探讨转向运用专门知识的重大突破而机器学习(特别是神经网络)探索不同的学习策略和各种学习方法在大量的实际应用中也开始慢慢复苏
4、平稳发展期20世纪90年代—2010年1990 - 2010年 由于互联网技术的迅速发展加速了人工智能的创新研究促使人工智能技术进一步走向实用化人工智能相关的各个领域都取得长足进步
5、蓬勃发展期
2011年至今 随着大数据、云计算、互联网、物联网等信息技术的发展泛在感知数据和图形处理器等计算平台推动以深度神经网络为代表的人工智能技术飞速发展大幅跨越了科学与应用之间的技术鸿沟诸如图像分类、语音识别、知识问答、人机对弈、无人驾驶等人工智能技术实现了重大的技术突破迎来爆发式增长的新高潮
2015年马斯克等人共同创建OpenAI它是一个非营利的研究组织使命是确保通用人工智能 (即一种高度自主且在大多数具有经济价值的工作上超越人类的系统将为全人类带来福祉其发布热门产品的如OpenAI GymGPT等
2016年AlphaGo与围棋世界冠军、职业九段棋手李世石进行围棋人机大战以4比1的总比分获胜
2022年11月30日OpenAI研发的一款聊天机器人程序ChatGPT对外发布引发AI的大爆发
2023年3月15日OpenAI发布ChatGPT 4.0引爆了AI
2023年3月16日百度发布文心一言文心一言ERNIE Bot是基于文心大模型技术推出的生成式对话产品文心大模型是百度自主研发的产业级知识增强大模型文心一言能够与人对话互动回答问题协助创作高效便捷地帮助人们获取信息、知识和灵感 国内还有科大讯飞认知智能大模型、阿里巴巴通义千问、华为盘古大模型、360智脑、京东言犀大模型等等
三大模型
大模型是指具有大规模参数和复杂计算结构的机器学习模型。这些模型通常由深度神经网络构建而成拥有数十亿甚至数千亿个参数。其设计目的在于提高模型的表达能力和预测性能以应对更加复杂的任务和数据 大模型简单来说就是一个特别聪明、特别能干的“大脑”这个“大脑”由很多个小小的“神经元”组成每个“神经元”都能处理一部分信息当这些“神经元”一起工作时大模型就能理解并回答各种问题或者完成各种复杂的任务。就像你有一个超级聪明的助手它能帮你写邮件、写PPT、回答你的各种问题等等它就像是一个上知天文下知地理无所不知的人
要训练一个大模型不容易需要给它提供很多学习材料就像我们小时候读书学习一样。而且为了让这个“大脑”更聪明还需要很多高级的计算机设备来帮助它学习
训练大模型
1、高性能的CPU和GPU多核心和高主频的CPU以及支持CUDA的GPU加速训练过程
2、大容量存储设备训练大模型需要存储大量的数据集、模型参数和中间结果
3、高速网络连接通过网络连接将训练任务分配到多个计算节点上
4、深度学习框架如TensorFlow、PyTorch等这些框架提供了构建和训练模型的工具和库
5、分布式训练框架为了加速大模型的训练可以使用分布式训练框架如Horovod、Ray等
6、编程语言和工具Python是深度学习领域最常用的编程语言还有如Git来管理代码和版本迭代
7、训练大模型非常耗电高性能计算机和GPU进行长时间的工作需要消耗大量的电力 二、SpringAI
官网Spring | Home
Spring AI
Spring AI is an application framework for AI engineering. Its goal is to apply to the AI domain Spring ecosystem design principles such as portability and modular design and promote using POJOs as the building blocks of an application to the AI domain.
Spring AI是一个AI工程领域的应用程序框架 它的目标是将Spring生态系统的设计原则应用于人工智能领域比如Spring生态系统的可移植性和模块化设计并推广使用POJO来构建人工智能领域应用程序
Spring AI并不是要构建一个自己的AI大模型而是让你对接各种AI大模型
一SpringAI特点
Spring AI提供的API支持跨人工智能提供商的 聊天文本到图像和嵌入模型等同时支持同步和流API选项
1、Chat Models 聊天模型
OpenAI
Azure Open AI
Amazon Bedrock
Coheres Command
AI21 Labs Jurassic-2
Metas LLama 2
Amazons Titan
Google Vertex AI Palm
Google Gemini
HuggingFace - access thousands of models, including those from Meta such as Llama2
Ollama - run AI models on your local machine
MistralAI
2、Text-to-image Models 文本到图像模型
OpenAI with DALL-E
StabilityAI
3、Transcription (audio to text) Models 转录音频到文本模型 OpenAI
4、Embedding Models 嵌入模型
OpenAI
Azure OpenAI
Ollama
ONNX
PostgresML
Bedrock Cohere
Bedrock Titan
Google VertexAI
Mistal AI
5、Vector Store API提供了跨不同提供商的可移植性其特点是提供了一种新颖的类似SQL的元数据过滤API以保持可移植性 矢量数据库
Azure Vector Search
Chroma
Milvus
Neo4j
PostgreSQL/PGVector
PineCone
Redis
Weaviate
Qdrant
6、用于AI模型和矢量存储的Spring Boot自动配置和启动器xxxx-spring-ai-starter
7、函数调用您可以声明java.util.Function的OpenAI模型的函数实现用于其提示响应。如果在应用程序上下文中注册为Bean则可以直接将这些函数作为对象提供或者引用它们的名称。这一功能最大限度地减少了不必要的代码并使人工智能模型能够要求更多信息来完成其响应 支持的模型有
OpenAI
Azure OpenAI
VertexAI
Mistral AI
8、用于数据工程的ETL框架 ETL框架的核心功能是使用Vector Store促进文档向模型提供者的传输。ETL框架基于Java函数式编程概念可帮助您将多个步骤链接在一起 支持阅读各种格式的文档包括PDF、JSON等 该框架允许数据操作以满足您的需求。这通常包括拆分文档以遵守上下文窗口限制并使用关键字增强它们以提高文档检索效率 最后处理后的文档存储在矢量数据库中以便将来检索
9、广泛的参考文档、示例应用程序和研讨会/课程材料 未来的版本将在此基础上提供对其他人工智能模型的访问例如谷歌刚刚发布的Gemini多模式模态一个评估人工智能应用程序有效性的框架更方便的API以及帮助解决“查询/汇总我的文档”用例的功能。有关即将发布的版本的详细信息请查看GitHub 二SpringAI-Chat 属性Chat Properties
重试属性
属性前缀为spring.ai.retry用于配置 OpenAI 聊天客户端的重试机制
属性描述默认值spring.ai.retry.max-attempts最大重试次数。10spring.ai.retry.backoff.initial-interval指数退避策略的初始睡眠持续时间。2 sec.spring.ai.retry.backoff.multiplier退避策略间隔倍数。5spring.ai.retry.backoff.max-interval最大退避持续时间。3 min.spring.ai.retry.on-client-errors如果为 false则引发 NonTransientAiException并且对4xx客户端错误代码不尝试重试falsespring.ai.retry.exclude-on-http-codes不触发重试的 HTTP 状态代码列表例如抛出 NonTransientAiException。empty
连接属性Connection Properties
属性前缀为 spring.ai.openai
属性描述默认值spring.ai.openai.base-url要连接到的 openai URLapi.openai.comspring.ai.openai.api-key访问 api 的 key在 OpenAI 的秘钥管理里获取-
配置属性
属性前缀为spring.ai.openai.chat可用于配置 OpenAI 的聊天客户端属性
属性描述默认值spring.ai.openai.chat.enabled启用 OpenAI 聊天客户端。truespring.ai.openai.chat.base-url可选项配置的情况下会在聊天的场景下覆盖 spring.ai.openai.base-url-spring.ai.openai.chat.api-key可选项配置的情况下会在聊天的场景下覆盖 spring.ai.openai.api-key-spring.ai.openai.chat.options.model要使用的 OpenAI 聊天模型gpt-3.5-turbo gpt-3.5-turbo gpt-4 和 gpt-4-32k 都是使用最新的版本 spring.ai.openai.chat.options.temperature 要使用的模型温度用于控制生成数据的创造力。较高的值将使输出更具随机性而较低的值将使结果更具针对性和确定性。不建议对一个请求同时配置 temperature 和 top_p因为这两个参数同时生效将导致结果难以预测。0.8spring.ai.openai.chat.options.frequencyPenalty介于 -2.0 和 2.0 之间的数字。到目前为止正值会根据在文本中的出现频率来惩罚新令牌从而降低模型重复同一行的可能性。0.0fspring.ai.openai.chat.options.logitBias修改特殊令牌在对话中出现的可能性。-spring.ai.openai.chat.options.maxTokens聊天对话返回的最大令牌数。输入令牌数和生成令牌数的总长度受模型上下文长度的限制。-spring.ai.openai.chat.options.n为每条输入消息生成多少个对话选项。请注意将根据所有选项生成的令牌总数付费。将 n 保留为 1 以最大程度地降低成本。1spring.ai.openai.chat.options.presencePenalty介于 -2.0 和 2.0 之间的数字。正值会根据到目前为止的新令牌是否出现在文本中来惩罚它们从而增加模型谈论新主题的可能性。-spring.ai.openai.chat.options.responseFormat一个对象指定模型必须输出的格式。设置为 { “type”: “json_object” } 启用 JSON 模式该模式可保证模型生成的消息是有效的 JSON。-spring.ai.openai.chat.options.seed此功能处于测试阶段。如果指定我们的系统将尽最大努力确定性采样以便具有相同seed和参数的重复请求返回相同的结果。-spring.ai.openai.chat.options.stop最多 4 个序列sequencesAPI 将停止生成更多令牌。-spring.ai.openai.chat.options.topP温度采样的替代方法称为核采样其中模型考虑概率质量排序top_p的令牌的结果。因此0.1 表示仅考虑包含前 10% 概率质量的令牌。我们通常建议改变这个或温度但不要同时改变两者。-spring.ai.openai.chat.options.tools模型可以调用的工具列表。目前仅支持将函数作为工具。这个参数可以把以JSON格式输入的函数列表提供给模型- spring.ai.openai.chat.options.toolChoice 控制模型调用哪个如果有函数。none 表示模型不会调用函数而是生成消息。auto 表示模型可以在生成消息或调用函数之间进行选择。通过 {“type ”function“ ”function“ {”name“ ”my_function“}} 指定特定函数会强制模型调用该函数。当不存在任何函数时none 是默认值。如果存在函数则 auto 是默认值。 -spring.ai.openai.chat.options.user代表您的终端用户的唯一标识符可以帮助 OpenAI 监控和检测滥用行为。-spring.ai.openai.chat.options.functions函数列表由其名称标识启用时单个提示词请求中会调用函数。具有这些名称的函数必须存在于 functionCallbacks 注册表中 三开发SpringAI
1、访问OpenAI权限和API Key 1本机电脑要可以访问OpenAI网站 https://openai.com/科学上网 2要有OpenAI的API Key注册账号或者某宝上购买 例API-Keysk-8sfKHJ03KJG3SDFfsdf283JSwsf23lkjkHDND32fmGJHF 在某宝上搜索 open ai api key找到API key购买之前请咨询清楚是直连还是转发地址以及是否开发要用到的API key 2、开发SpringBoot和IDEA版本要求
Spring AI的发布时间是2024年3月1日
Spring AI是一个人工智能工程的应用框架旨在为Java开发者提供一种更简洁的方式与AI交互减轻在Java业务中接入LLM模型应用的学习成本。目前Spring AI已经上架到Spring Initializr开发者可以在https://start.spring.io/上使用并构建相关应用
使用SpringAI至少需要SpringBoot 3.2版本
SpringAI是Spring框架的一个新项目旨在简化Java开发人员将AI功能集成到应用程序中的过程 使用SpringAI需要确保开发环境满足以下2个要求 1、JDK版本JDK 17含以上 2、SpringBoot版本3.2以上 3、IDEA2024版 此外SpringAI支持接入多种AI服务如OpenAI、Ollama、Azure OpenAI、Huggingface等可以实现聊天、embedding、图片生成、语音转文字、向量数据库、function calling、prompt模板、outputparser、RAG等功能 1、创建SpringAI项目
选择Spring Boot 至少3.2版本且勾选AI中的OpenAI选项2024之前的老版本IDEA应该没有这个选项 2、添加依赖加入spring-ai-openai-spring-boot-starter依赖
?xml version1.0 encodingUTF-8?
project xmlnshttp://maven.apache.org/POM/4.0.0 xmlns:xsihttp://www.w3.org/2001/XMLSchema-instancexsi:schemaLocationhttp://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsdmodelVersion4.0.0/modelVersionparentgroupIdorg.springframework.boot/groupIdartifactIdspring-boot-starter-parent/artifactIdversion3.2.4/versionrelativePath/ !-- lookup parent from repository --/parentgroupIdcom.demo/groupIdartifactIdspring-ai/artifactIdversion0.0.1-SNAPSHOT/versionnamespring-ai/namedescriptionspring-ai/descriptionpropertiesjava.version17/java.versionmaven.compiler.source17/maven.compiler.sourcemaven.compiler.target17/maven.compiler.targetproject.build.sourceEncodingUTF-8/project.build.sourceEncoding!-- SpringAI当前版本1.0.0-M3快照版1.0.0-SNAPSHOT --spring-ai.version1.0.0-SNAPSHOT/spring-ai.version/propertiesdependenciesdependencygroupIdorg.springframework.boot/groupIdartifactIdspring-boot-starter-web/artifactId/dependency!--spring ai的starter依赖启动依赖--dependencygroupIdorg.springframework.ai/groupIdartifactIdspring-ai-openai-spring-boot-starter/artifactId/dependencydependencygroupIdorg.springframework.boot/groupIdartifactIdspring-boot-devtools/artifactIdscoperuntime/scopeoptionaltrue/optional/dependencydependencygroupIdorg.projectlombok/groupIdartifactIdlombok/artifactIdoptionaltrue/optional/dependencydependencygroupIdorg.springframework.boot/groupIdartifactIdspring-boot-starter-test/artifactIdscopetest/scope/dependency/dependencies!--相当于是继承一个父项目spring-ai-bom父项目--dependencyManagementdependenciesdependencygroupIdorg.springframework.ai/groupIdartifactIdspring-ai-bom/artifactIdversion${spring-ai.version}/versiontypepom/typescopeimport/scope/dependency/dependencies/dependencyManagementbuildpluginsplugingroupIdorg.springframework.boot/groupIdartifactIdspring-boot-maven-plugin/artifactIdconfigurationexcludesexcludegroupIdorg.projectlombok/groupIdartifactIdlombok/artifactId/exclude/excludes/configuration/plugin/plugins/build!--配置本项目的仓库因为maven中心仓库还没有更新spring ai的jar包--repositoriesrepository!-- SpringAI快照版 --idspring-snapshots/idnameSpring Snapshots/nameurlhttps://repo.spring.io/snapshot/url!-- 当前最新M3版 --
!-- idspring-milestones/id--
!-- nameSpring Milestones/name--
!-- urlhttps://repo.spring.io/milestone/url--snapshotsenabledfalse/enabled/snapshots/repository/repositories/projectai依赖
!-- ai依赖 --
dependencygroupIdorg.springframework.ai/groupIdartifactIdspring-ai-openai-spring-boot-starter/artifactId
/dependency继承父项目
dependencyManagementdependenciesdependencygroupIdorg.springframework.ai/groupIdartifactIdspring-ai-bom/artifactIdversion${spring-ai.version}/versiontypepom/typescopeimport/scope/dependency/dependencies
/dependencyManagement配置项目依赖下载的AI仓库
!--配置本项目的仓库因为maven中心仓库还没有更新spring ai的jar包--repositoriesrepository!-- SpringAI快照版 --idspring-snapshots/idnameSpring Snapshots/nameurlhttps://repo.spring.io/snapshot/url!-- 当前最新M3版 --
!-- idspring-milestones/id--
!-- nameSpring Milestones/name--
!-- urlhttps://repo.spring.io/milestone/url--snapshotsenabledfalse/enabled/snapshots/repository/repositories
Maven中心仓库搜不到这个依赖 3、配置yml文件
spring:application:name: spring-aiai:openai:api-key: sk-8sfKHJ03KJG3SDFfsdf283JSwsf23lkjkHDND32fmGJHF # 换成你自己的api-keybase-url: https://api.openai.com #如果是购买的转发地址这边换成转发的OpenAI地址
4、编写测试类测试
1注入OpenAiChatModel
Resource private OpenAiChatModel openAiChatModel;
注刚开始发布的版本这里是 OpenAiChatClient
2调用call方法 openAiChatModel.call(message);
package com.demo.springai1chat.controller;import jakarta.annotation.Resource;
import org.springframework.ai.openai.OpenAiChatModel;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;/*** description:* author: zm*/
RestController
RequestMapping(/ai)
public class ChatController {/*** spring-ai自动装配的可以直接注入使用*/Resourceprivate OpenAiChatModel chatModel;/*** OpenAI接口调用* param message 提问信息* return OpenAI相应信息*/GetMapping(/chat)public String aiChat(RequestParam(msg)String message) {return chatModel.call(message);}
}
自动装配Auto-configuration
添加了 spring-ai-openai-spring-boot-starter 依赖Spring AI 为 OpenAI Chat Client 提供了 Spring Boot 自动装配。
OpenAiAutoConfiguration配置类中自动注入了我们只需要直接注入调用即可 刚开始发布的SpringAI版本中叫OpenAiChatClient
而该依赖中针对各个大模型提供了一个对应的自动配置类如OpenAiAutoConfiguration在该自动配置类中定义了以下几个Bean OpenAiChatModel/OpenAiChatClient老版本文字聊天客户端OpenAiEmbeddingModel/OpenAiEmbeddingClient老版本文本向量化客户端OpenAiImageModel/OpenAiImageClient老版本文生图客户端OpenAiAudioTranscriptionModel/OpenAiAudioTranscriptionClient老版本语音转文字客户端 这些Bean在创建时就会构造底层连接OpenAi的客户端OpenAiApi对象其中会用到以下几种配置 OpenAiConnectionProperties连接配置OpenAiChatProperties聊天配置OpenAiEmbeddingProperties向量化配置OpenAiImageProperties文生图配置OpenAiAudioTranscriptionProperties语音转文字配置 连接OpenAi的地址就apiKey就在OpenAiConnectionProperties中比如application.properties的配置为
spring.ai.openai.base-urlhttp://localhost:3000
spring.ai.openai.api-keysk-xxxxx
5、启动调用访问 localhost:8080/ci/chat?msg为我写一首歌http://localhost:8080/ai/chat?msg为我写一首歌
