企业介绍
云锦微智能科技由王文艺博士于2021年5月创建,核心团队由来自浙江大学,阿里巴巴达摩院与Marvell半导体的资深AI科学家与计算专家组成,团队全新自研C++开源框架vt-transformer与云锦OS两大核心技术,为智能体与具身智能应用提供OS与计算解决方案。云锦OS已完成对主流国产算力的适配,包括爱芯元智,寒武纪,中科海光,天数智芯等, 为客户提供低成本高可用安防智能体与工控智能体解决方案,并累计发展超50家客户,包括上汽集团,中国电子,贵阳轨道,上海隧道等大型企业AI开发者客户与分布在全国的数字化软件开发成商客户。
项目介绍
云锦OS通过独创的小型化C++大模型计算框架vt-transformer,替代云计算大型化Python大模型计算框架,为具身智能应用提供低成本高性能软硬一体解决方案。
云锦OS的MxN混合模型与异构硬件训推一体边缘 AI 计算方案连接模型到芯片,集成了协同计算框架软件 VT-Transformer 和高速异构互联硬件 VT-xCCL 两大核心组件。协同计算框架软件 VT-Transformer 内嵌先进的 MoE 模型编译引擎 VT-DAG,实现一键式模型转化与编译功能,高效实现混合模排,保证大小模型之间无缝协同计算。可根据企业自身需求,把语言大模型、多模态大模型、语音模型、机器模型等多个大小模型融合为自身专属的行业大模型。VT-Transformer 具备强大的异构算力调度和对接能力,面对多种类型的算力平台进行精准适配和优化利用,显著提升运算效能,助力企业用户在边缘 AI 场景下获得更高性能、更低延迟以及更优成本的计算解决方案。高速异构连接硬件 VT-xCCL 实现了对各类算力硬件的高效算子固化与编程,VT-xCCL 协议栈确保了系统内部各算力得到最大限度的优化配置与应用,VT-xCCL 不仅提供了强大的加速互联功能,更有效促进了异构硬件环境下的执行加速,从而为企业用户构建出快速响应、高效协同且灵活适应不同场景需求的智能体与具身智能计算解决方案。
核心优势(1)开发周期大幅缩短:得益于一体化的架构设计和高效的执行效率,云锦 OS 方案能够大幅缩减企业用户专属大模型孵化的开发时间。(2)维护成本有效降低:开源框架易于维护与扩展。仅需一位熟悉 C++的工程师即可轻松完成后续开发与维护工作,相比传统平台可将产品开开发周期缩减 80%,大大节约了人力。(3)算力硬件成本低:方案支持各类跨场景低资源异构硬件设备,实现仅 1/3 的价格即可应对超过 80%以上的边缘 AI 应用场景,实现了在保证性能的同时有效降低成本。
创始人履历
创始人/CEO王文艺博士,毕业于浙江大学教育部嵌入式工程中心与浙江省多媒体实验室,中欧国际工商学院EMBA,是操作系统、芯片与人工智能领域研发高管与连续创业者。先后担任D-Link IoT操作系统研发总监,Marvell Google TV芯片架构总监,微鲸科技联合创始人,微鲸投影/VR OS研发负责人,猎户星空机器人研发副总裁,依图科技硬件事业部总经理。