×
img

华福证券:电子行业专题报告:TPU:为更专用的AI计算而生

发布者:wx****07
2024-10-23
2 MB 15 页
半导体 华福证券
文件列表:
华福证券:电子行业专题报告:TPU:为更专用的AI计算而生.pdf
下载文档
投资要点: TPU:为更专用的AI计算而生,引领AI芯片时代 作为一种AI芯片,TPU是专用集成电路(ASIC)的代表。主流AI芯片架构包括GPGPU、ASIC和FPGA,我们一般认为GPGPU为改善CPU效率而生,而TPU可以进一步改善GPGPU未优化完全的部分,三者是从通用到专用不断演进的过程。我们通过梳理发现,TPU在性能功耗比、集群算力利用率上相较于GPGPU有较大优势。主要由于:(1)芯片层面:TPU专为矩阵乘法而设计,脉动阵列、低精度等设定均适用于AI算法,能够处理大量数据以及复杂的神经网络;(2)集群层面:谷歌自研光学芯片Palomar,构建集群互连优势;TPU与TensorFlow良好适配,软件与硬件相得益彰,能够发挥出1+1>2的效果。站在当下回望,我们发现,TPU具备的优势其实最终都形成了AI芯片共同的趋势,在优化方向上大同小异,而谷歌的强大在于“前瞻”。 谷歌TPU:量级仅次于NVIDIAGPU,自建租赁模式吸引头部客户 尽管谷歌没有对外出售自研的TPU,但随着TPUv4(2021年推出)和大型语言模型的出现,谷歌芯片业务的规模显着增加,23年TPU已经突破了20

加载中...

已阅读到文档的结尾了

下载文档

网友评论>