11月15日,在高交会开幕式上,云天励飞重磅发布新一代AI芯片DeepEdge10。
云天励飞董事长兼CEO陈宁博士在高交会开幕式上介绍DeepEdge10芯片
DeepEdge10是国内首创的国产14nm Chiplet大模型推理芯片,采用自主可控的国产工艺,内含国产RISC-V核,支持大模型推理部署。依托自研芯片DeepEdge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。
DeepEdge10
DeepEdge10 Max
云天励飞是国内少有的自成立之初就坚持芯片研发的AI企业,目前已完成了3代指令集架构、4代神经网络处理器架构的研发,且已陆续商用。更可贵的是,通过多年的投入,公司已建立起一支核心芯片团队,设计经验平均超过14年。云天励飞的芯片还先后获得工信部、发改委、科技部三大部委人工智能专项,并三度获得“吴文俊人工智能科学技术奖”。
大模型时代,AI推理芯片是应用落地的关键承载体
边缘计算的市场价值呈现高速发展趋势。IDC预测,到2023年底,全球的边缘计算市场将达到2000亿美金的规模;预计到2026年,边缘计算市场将突破3000亿美金。
边缘计算的场景呈现出算力碎片化、算法长尾化、产品非标化、规模碎片化的特征,传统的算法开发和芯片都难以适应新一代人工智能边缘计算场景的产品化需求。大模型的出现,为行业提供了算法层面的解决之道。但大模型在边缘计算场景要面向实战发挥作用,则需要AI大模型推理芯片的支持。
对于AI芯片而言,大模型带来全新的计算泛式和计算要求。芯片需要具备更大的算力、更大的内存带宽、更大的内存容量,才能支持巨量参数的大模型在边缘端运行。同时,AI边缘推理芯片还承担了“落地应用最后一公里”的职责,这就意味着AI边缘推理芯片不仅要支持大模型等AI计算任务,还需要具备较强的通用算力。
针对上述场景需求,云天励飞打造了新一代边缘计算芯片DeepEdge10。该芯片具有SoC主控集成度;采用D2D Chiplet技术和C2C Mesh扩展架构,可实现算力的灵活扩展;内置云天励飞最新的第四代神经网络处理器。
基于一系列创新技术,云天励飞打造了系列化芯片。目前已开发出 Edge10C、Edge10 标准版和 Edge10Max 三款芯片;出货形态包括芯片、板卡、盒子、加速卡、推理服务器等,可广泛应用于AIoT边缘视频、移动机器人等场景。依托Dee Edge10创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载SAM CV大模型、Llama2等百亿级大模型运算。
目前,云天励飞已向国内头部的AIoT芯片设计厂商、智慧汽车芯片设计厂商、服务机器人厂商、国家重点实验室等提供神经网络处理器的IP授权。
云天励飞副总裁、芯片产品线总经理李爱军在云天励飞AI芯片发布会上详细介绍DeepEdge10情况
算法芯片化,云天励飞打造AI芯片的核心“武器”
云天励飞自2014年成立之初一直坚持自主研发芯片,沉淀“算法芯片化”的核心能力。“算法芯片化”并不是简单的“算法+芯片”,而是云天励飞基于对场景的理解,以及对算法关键计算任务在应用场景中的量化分析,将芯片设计者的理念、思想与算法相融合的AI芯片设计流程,能够让AI芯片在实际应用中发挥更优的效果。
在算法芯片化核心能力的支持下,云天励飞目前已完成了3代指令集架构、4代神经网络处理器架构的研发,且已陆续商用。更可贵的是,通过多年的投入,公司已建立起一支核心芯片团队,设计经验平均超过14年。
云天励飞的自主研发芯片,也是公司自进化城市智能体战略的重要引擎。2020年,云天励飞在高交会上正式发布自进化城市智能体战略。驱动自进化城市智能体发展的核心逻辑,是打造“应用生产数据、数据训练算法、算法定义芯片、芯片规模化赋能应用”的数据飞轮。芯片是决定AI应用广度与深度的关键载体,也是自进化城市智能体建设的重要算力支撑。
未来,云天励飞将继续加大自主研发力度,立足自主可控,以自研“芯”,为自进化城市智能体发展提供强大引擎。
（新闻稿 2023-11-16）
