南京哪个网站做物业贷,中国工程建筑网,网站模板制作流程,亚洲一线产区二线产区精华在数字化浪潮的推动下#xff0c;工业制造领域正经历着一场前所未有的变革。人工智能#xff08;AI#xff09;作为这场变革的关键推动者之一#xff0c;正以惊人的速度颠覆传统制造业。而大模型作为AI时代最先进的科技工具之一#xff0c;或将成为引领这场变革的利器工业制造领域正经历着一场前所未有的变革。人工智能AI作为这场变革的关键推动者之一正以惊人的速度颠覆传统制造业。而大模型作为AI时代最先进的科技工具之一或将成为引领这场变革的利器为制造业注入全新活力。
近日阿加犀创始人、CEO孙晓刚受邀做客虎嗅智库「502线上同行」研讨会聚焦AI工业大模型的初代落地实践分享了阿加犀的边缘端大模型部署解决方案与AI工业质检解决方案。 在过去一年里大模型呈现出了爆发式增长态势。国内外科技大厂都陆续推出了相关产品将触角伸入教育、医疗、工业、办公等多个领域——“百模大战”已经开启应用场景PK战。
但是要从聊天问答的通用大模型变成能够解决复杂问题的专业大模型并真正落地到行业应用场景中绝非易事。
数据与成本 工业大模型难以跨越的鸿沟
对于工业制造这样要求高可靠性、高准确性与高精密化的领域而言厂商在将大模型应用到实际产线上时不仅会考虑数据隐私和安全性更会重点关注成本问题。
数据安全隐患
数据是训练大模型的基础原料其质量和数量直接影响着大模型的性能与价值。
而工业是我国国民经济的重要支柱产业其日常运营中涉及到大量的数据操作如生产、研发、销售等都可能与企业的商业机密和客户隐私密切相关。因此相较其他行业而言工业场景中的数据不透明、难获取且更具碎片化、多样性和复杂性。
也正是由于涉及企业的部分核心业务从高质量数据里调教和生长出来的工业大模型必须满足更高的数据安全性和隐私性故将其放在边缘端进行推理运算或将成为更优于云端的选择。 使用成本昂贵
大模型的使用成本相当昂贵。ChatGPT每进行一次对话就耗费1毛钱成本的玩笑并非空穴来风据业界人士分析千亿模型每个月的服务器成本就可能高达几千万美元。即便是为普通AI模型寻求服务器租赁服务其算力与带宽费用也在每年几十万上下。
再者因AI算力需求旺盛、供给紧张阿里云官网已于近日暂停出租A100未来或将停止或减少对外出租A/H服务器算力。东北证券研究所认为行业供求矛盾升级算力租赁行业将进入新一轮涨价周期。 对于工业厂商而言成本是竞争力和命脉更是可持续发展的关键。尤其是在劳动力相对廉价的中低端产业链上大模型使用成本居高不下几乎就等同于AI永远无法真正成为生产力这就意味工业大模型的应用只能成为部分国企和龙头企业的探索难以惠及全行业。
在如此困境下如何转换思路寻求其他算力资源并将其压榨出最大价值就成了大模型顺利落地工业应用场景的关键命题。
加速奔向边缘端 大模型落地有了新出路 在工业大模型的初代落地实践研讨会上阿加犀创始人、CEO孙晓刚条分缕析地阐述了大模型在工业场景中落地应用面临的难点并分享了阿加犀大模型边缘端部署解决方案和AI工业质检解决方案。
相比大多数被炒得火热的AI芯片而言边缘端芯片在价格上首先有着极大优势。但问题来了大模型能在这样的设备上顺利跑起来吗
答案是肯定的。阿加犀打造了行业领先的AI工具链一方面能够对大模型本身进行转换和量化压缩优化并补全AI算子另一方面通过SoC性能调度充分释放边缘端芯片算力提升AI运算效率。 在AI工具链的赋能下阿加犀利用多块手机供应链芯片打造了一个边缘端AI推理集群该集群的推理速度跟市面上的主流AI服务器不相上下成本却仅为原方案的1/3。在降本增效的基础上工业大模型的应用落地才有望迎来更快的进展从而真正普惠到更多厂商、更多生产线。
我们现在已经将阿里通义千问大模型落地到了边缘端芯片并且跑出了很好的性能和流畅的体验。 边缘端推理运行Qwen大模型·2023云栖大会
除通义千问以外阿加犀还在边缘端芯片上实现了LLaMA-2、百川大模型、RedPajama、ChatGLM2、Vicuna、清华智谱等大语言模型的流畅运行并将SAM模型、AnomalyGPT等开源视觉大模型进行调优后部署在边缘端应用于工业质检场景中高效完成分割、异常检测等任务。
基于大模型原理阿加犀还结合自研模型训练平台AI Creator进一步探索在工业质检场景中自动训练、生成模型的路径包括利用大模型生成模拟检测图像的负样本补齐负样本难获取、数量稀缺的短板等等。
当然随着工业4.0时代的到来智能机器人与大模型的结合也为生产制造带来了无限机遇。在这方面阿加犀也做了很多探索。
我们有专门做机器人解决方案的部门目前正在迁移一些多模态大模型到机械臂上让它具备视觉识别能力和学习思考能力而不是单纯依靠机械指令完成任务。
将具备自主进化能力的多模态AI大模型接入基于阿加犀一芯多用解决方案设计的机器人有望使其在单SoC满足机器人多场景、智能化需求的高性价比基础上为用户提供更加精准化、个性化的服务。 大模型落地工业场景的进程已经拉开序幕从某种意义上来说只有打通整个产业链上不同的流程环节才能最大程度实现成本的降低和效率的提升。
阿加犀也期待能与更多合作伙伴携手构建健全、完善的产业生态共同应对资源投入、数据协作、技术协同等难题推动工业生产方式向数字化、智能化转变让AI真正成为生产力为提升我国产业水平创造长远价值
参考资料
《“百模大战”开启应用场景比拼 短期内大规模落地仍受成本制约》来源财联社·科创板日报。
《阿里云A100暂停出租算力租赁供给紧张关注行业的三个变化》来源金融界。
