其中,ASIC芯片主要应用于深度学习加速,在推理侧,相较其他AI芯片在效率和速度方面具有明显优势。
随着生成式AI推理需求的加强,会增加对专用芯片的需求,定制化芯片或大有可为。
ASIC芯片是专用于特定应用的集成电路,其计算能力和计算效率可根据算法需求进行定制,专为特定任务和场景设计。
具有面积小、能耗低、集成度高、AG真人国际价格优势显著等特点,但同时也存在设计开发周期长、对算法依赖性高等缺点。
虽然目前单颗ASIC算力相比最先进的GPU仍有差距,但由于其成本较低,在推理常用精度下,展现出了更高的性价比,功耗也更低。
OpenAI在上周发布了GPT-o1模型。GPT-o1由于使用思维链,单次推理时间相应增长,适用于对实时性相应要求较低的场景。
上周,谷歌OpenAI发布迄今最强大的AI大模型Gemini 2.0,背后的核心硬件为谷歌最强AI芯片Trillium TPU—同样也属于ASIC的一种。
海外ASIC供应商以博通、Marvell为代表。博通2024财年公司的人工智能收入增长220%,达到122亿美元。博通目前正在与三个非常大型的客户开发AI芯片,预计明年公司AI芯片的市场规模为150亿-200亿美元。
北美云厂商亚马逊、Meta 等持续扩大自研 ASIC。亚马逊最新发布的AI芯片中,基于ASIC的实例性价比超越基于GPU的实例;谷歌最强AI芯片同样是ASIC。
国内典型的 ASIC 芯片例如:阿里平头哥推出含光 800 AI 芯片;百度昆仑系列 AI 芯片;腾讯在 AI 推理、视频转码、智能网卡均自研专用芯片等。
寒武纪已推出的ASIC芯片产品包括思元590等智能芯片,以及基于思元系列芯片的云端智能加速卡、边缘智能加速卡等。其中,思元590智能芯片的性能直接对标英伟达的核心产品A100,几乎支持当下所有的主流模型。#芯片#
全志科技ASIC芯片产品在智能音箱、智能安防等领域有较强的市场竞争力;国科微在广播电视、安防监控等领域的ASIC芯片技术较为成熟;淳中科技自研ASIC芯片正在进行相关测试工作;山石网科ASIC芯片已进入量产前的测试阶段;天融信2003年开始投入ASIC网络加速芯片研制中;澜起科技的津逮服务器平台产品线中的津逮CPU,是将Intel CPU和ASIC模块封装在一起的产品。