白山建设局网站,wordpress和域名,wordpress页面后缀.html和,网站建设vps点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入#xff01; 在当今迅速发展的科技领域#xff0c;大模型技术正日益成为金融医疗、生命系统和物理仿真等领域中的重要工具。2023年6月16日#xff0c;AI TIME举办的青年科学家大模型专场活动邀请了国防科技大学理学院数学… 点击蓝字 关注我们 AI TIME欢迎每一位AI爱好者的加入 在当今迅速发展的科技领域大模型技术正日益成为金融医疗、生命系统和物理仿真等领域中的重要工具。2023年6月16日AI TIME举办的青年科学家大模型专场活动邀请了国防科技大学理学院数学系统计与运筹学讲师王琦、西湖大学工学院人工智能方向助理教授吴泰霖、浙江大学国际联合学院助理教授孟祥明、中佛罗里达大学计算机系助理教授及计算安全与隐私中心成员娄钱四位嘉宾深入探讨了大模型技术在金融医疗、生命系统和物理仿真等领域中的应用案例、技术挑战和未来发展趋势展示了这一革命性技术对各领域带来的深刻影响。 王琦AIGC技术的发展溯源与前景展望 近些年人工智能生成内容(AIGC)技术受到了学术界和工业界的广泛重视此类生成式AI技术的涌现提升了社会生产效率为通用人工智能(Artificial General Intelligence)技术开发的难题提供了新的解决思路。王琦老师在报告中首先溯源AIGC技术的发展随着Diffusion Model、Transformer等生成式系列结构生成式AI模型的结构趋向深度化和层次化效果越来越好。王老师在报告的第二部分探讨了生成式AI理论研究的相关问题并对深度生成模型的结构设计、优化策略、效果评估及应用部署进行展望。他将生成式AI存在研究热点概括为深度生成模型的可解释性生成数据的多样性与真实性结构化数据的不变性与等变性大规模优化的计算复杂性与深度生成模型的跨任务智能决策而解决这些科学问题涉及的理论工具包括统计学、代数学、决策论、信息论与优化理论等未来利用这些理论有可能推动AIGC的研究发展。 吴泰霖AI用于多分辨率科学仿真和设计 系统的多分辨率是科学仿真的研究中存在的一个重要挑战。在物理、流体、天气、材料、核聚变等很多领域系统的一小部分变化非常剧烈需要非常精细的分辨率而大部分则变化缓慢。为解决上述问题吴泰霖老师在报告中介绍了一种LAMP架构并通过实验数据分析其良好的性能。LAMP通过两个图神经网络进行特征的学习其中一个图神经网络学习系统随时间的演化另一个则通过强化学习优化系统内各个部分的空间分辨率从而判断误差和成本是否在可控范围内。此外吴老师还提出了AI用于科学仿真存在的问题包括如何更好地解决多尺度问题以及提高其可信度等。基于科学仿真我们可以进行系统的反向设计从而优化给定的目标吴老师在报告的第二部分还详细阐述了AI用于反向设计在各科学、工程关键领域的重要应用、开放问题和可能方向并欢迎大家一起进行深入探索。 孟祥明基于扩散模型的量化压缩感知 我们目前正处于大数据时代很多问题会涉及信号的获取但是大规模数据的获取会非常消耗资源那么如何使用少量的观测来获取信号和数据是研究的一大难题。孟祥明老师在报告中首先简明地阐述了压缩感知的主要思想在信号传输和存储之前先对其进行压缩在接收端收到数据后进行解压缩简单讲就是在信号采样的过程中进行压缩。孟老师介绍了一种名为QCS-SGM的高效算法该算法利用基于分数的生成模型SGM作为隐式先验但该算法受限于行正交传感矩阵会使得似然得分的计算变得很困难。为了突破此限制孟老师在报告中又介绍了QCS-SGM的高级变体——QCS-SGM。它能够有效地处理一般矩阵从贝叶斯推理角度计算似然得分而广泛的实验也证明了QCS-SGM在一般传感矩阵方面比QCS-SGM具有显著的优越性。 娄钱探讨人工智能的安全与隐私问题 人工智能模型尤其是深度学习模型已经在广泛的领域得到了应用但其隐私和安全问题仍然存在许多待解决的挑战。娄钱老师在报告中首先指出构建一个可靠的深度学习系统需要解决高效性、数据隐私和安全的问题然后介绍了利用加密的方式对数据和模型隐私进行保护的方案。他列举了现实生活中数据隐私的实例如医疗数据、金融数据等这些数据中往往会包含个人隐私信息目前已有的研究中会利用全同态加密FHE、多方计算、差分隐私等多种隐私计算技术进行数据隐私的保护。人工智能模型在训练和推理过程中也有可能泄露训练数据的敏感信息因此模型的安全性尤为重要。娄老师在报告中分别介绍了针对文本和视觉的后门攻击方法他也表示我们需要探索更多的后门攻击方法并提出相应的检测和去除策略才能保护模型的安全性。 智能决策大模型在生命系统/机器人系统中部署的机遇与挑战 王琦大模型目前已经可以很好地解决视觉包括自然语言方面的基础性问题。在生命系统方面大模型可以针对不同情景下体质不同的人学习特征从而制定个性化的治疗方案。大模型部署在生命系统或机器人系统中面临机遇的同时也面临着一些挑战。比如真实数据的缺失以及数据的表征格式其次是因果溯源的问题第三是让机器人系统具备感知能力与推理能力。 孟祥明大模型应用在医疗系统或是机器人系统中是面临诸多挑战的首先需要巨大的计算机资源进行支撑其次用于大模型训练的数据在收集过程中本身是存在偏见和不平衡的这会影响最终的决策结果因此如何保证大模型的公正性和可信度是一个较大的挑战第三在生命系统中采用安全的措施对于敏感信息的隐私保护也是一个难题第四利用大模型辅助决策会面临因果推理的难题因而解决大模型的可解释性和可理解性也是一个较大的挑战。 娄钱我比较关注的是大模型或是生成模型的安全隐私问题未来如果能够对大模型的输入进行一些过滤或者提高大模型本身的推理能力和可解释性将会是一个很大的进展。 大模型的安全隐患以及解决方案 特别是在医疗金融等高风险领域 娄钱大模型现在有一些提示词的工程那么设置好的提示词工程让训练的数据变得更少是现有的机遇。但同时也存在着一些问题当出于保护隐私的动机去对提示词进行加密能否保证性能的稳定性是一个挑战。我们可以通过差分隐私利用本地学习或联邦学习的方式去生成垂直领域的个性化提示词从而防止隐私泄露。 孟祥明大模型在医疗、金融等高风险领域的应用除了面对技术问题还有法律法规的制定如何管理数据的应用及其产生的伦理相关的政府、企业都应该形成一个相应的规范。 吴泰霖大模型可以作为一种基础服务提供给各个机构由研发机构训练好的基础模型作为初始状态再分发给不同的公司进行不同类型数据的训练这样数据就能保存在各个公司中保证了数据的安全性。 王琦大模型在训练完投入使用的过程中数据是呈现一种增量态势的所以它具备终身学习的特性。大模型会随着数据的更新而更新这就涉及数据的偏差。倘若有不法机构试图从产生垃圾数据的角度攻击大模型如何让大模型从数据的角度出发保证数据公平从而实现安全性也是一个有趣的研究方向。 大模型在物理仿真中的机遇和挑战 吴泰霖关于大模型是否应该应用于物理仿真如果它能够用于不同形式不同情景下只需更改基于学习的表示减少训练时间这是将其应用于物理仿真的优势。倘若将其应用于物理仿真的数据量远远超过大模型本身的数据量这就是不值得的。大模型的训练需要很多数据而物理仿真中数据很丰富将这两者结合起来一起训练就是一个机遇。大模型在物理仿真中的挑战主要有两个设计一个通用的表示使得其对不同的情形都能够适用、对于不同的物理情形能否使用同一个模型来模拟。 王琦关于挑战在做推理的时候如何从高维观测信号中推断真实的物理状态是一个比较困难的问题因为在物理系统中机器人的各种状态信息都是需要通过传感器进行收集的。此外对于大规模仿真的评估标准也是一大难题在大规模仿真预算的情况下仿真需要服务于智能决策此时对仿真系统的实时性就提出了很高的要求。 孟祥明物理仿真字面意义上即仿真现实的世界我们希望它能够精确地重现现实世界的现象或者规律那么大模型如何保证仿真的精度和稳定性是一大挑战。 娄钱训练一个大模型的必要条件是数据、计算平台、训练算法物理仿真的数据表达性更好更接近现实。在计算方面由于数据量是巨大的而GPU又是有限的所以设计高效训练的算法来缓解产能的限制是有必要的。 AI或者大模型还需要理论吗 孟祥明这个回答是肯定的。我们目前需要思考的是机器学习理论方面的研究方式是否存在一些问题或者研究范式。由于机器学习理论界的知识对AI或大模型的发展影响并不是那么大所以会对理论产生质疑的声音。我认为理论的研究需要改变传统随着大模型理论研究的深入传统的理论无法达到精确分析刻画网络结构的效果需要改变研究范式用复杂的系统理论解释有限的现象。 娄钱我个人是从工程角度做AI的相关研究大部分人做理论研究的流程是先观察问题再提出算法而新算法的提出一般是先基于直觉然后再验证算法的有效性这也是我目前比较推崇的一种做研究的方式。 王琦大模型的涌现能力是让人惊艳的它遍历了与人类复杂语言系统中的各种组合技巧从这种角度看生成式模型或者AI本质上是在做一种概率建模。除此之外高效推断、高效采样、随机问题的优化、可解释性也是未来大模型研究中值得探讨的理论问题。 吴泰霖大模型一定还需要理论。从Science for AI的角度来看不同的学科都会有不同的方式和概念能够从基础理论的形式上有可能对大模型进行更好的理解。 整理陈研 审核王琦、吴泰霖、孟祥明、娄钱 往期精彩文章推荐 记得关注我们呀每天都有新知识 关于AI TIME AI TIME源起于2019年旨在发扬科学思辨精神邀请各界人士对人工智能理论、算法和场景应用的本质问题进行探索加强思想碰撞链接全球AI学者、行业专家和爱好者希望以辩论的形式探讨人工智能和人类未来之间的矛盾探索人工智能领域的未来。 迄今为止AI TIME已经邀请了1100多位海内外讲者举办了逾550场活动超600万人次观看。 我知道你 在看 哦 ~ 点击 阅读原文 观看回放
