AI计算：GPU上岸，IPU崛起
前言:
AI近些年的大火,直接促进了CPU和GPU的发展,而英伟达的GPU真正借此迅速成为AI市场的主流产品之一,其势头甚至盖过了CPU。
而AI应用需要专门的处理器,而IPU正是这样的处理器。目前,AI在各行各业均得到广泛应用,IPU可以基于自身优势为世界的智能化进程增添不竭动力。
英伟达专注的GPU优势逐渐缩小
从专注图像渲染崛起的英伟达的GPU,走的也是相当于ASIC的技术路线,但随着游戏、视频渲染以及AI加速需要的出现,英伟达的GPU也在向着GPGPU的方向演进。
当硬件更多的需要与软件生态挂钩时,市场大多数参与者便会倒下。在竞争清理过后,GPU形成了如今的双寡头市场,并且步入相当成熟的阶段。
ASIC本身的成本、灵活性缺失,以及应用范围很窄的特点,都导致它无法采用最先进制程: 即便它们具备性能和能效优势,一旦无法采用最先进制程,则这一优势也将不再明显。
为保持其在GPU领域的寡头地位,使得英伟达必须一直保持先进的制程工艺,保持其通用性,但是要牺牲一定的效能优势。
相比于来自类GPU的竞争,英伟达不应该忽视Graphcore的IPU,特别是Graphcore一直都在强调其是为AI而生,面向的应用也是CPU、GPU不那么擅长的AI应用。
利用AI计算打侧面竞争战
不管CPU还是GPU都无法从根本上解决AI问题,因为AI是一个面向计算图的任务、与CPU的标量计算和GPU的矢量计算区别很大。
而另一边的IPU,则为AI计算提供了全新的技术架构,同时将训练和推理合二为一,兼具处理二者工作的能力。
作为标准的神经网络处理芯片,IPU可以支持多种神经网络模型,因其具备数以千计到数百万计的顶点数量,远远超过GPU的顶点规模,可以进行更高潜力的并行计算工作。
计算加上数据的突破可以让IPU在原生稀疏计算中展现出领先IPU 10-50倍的性能优势,到了数据稀疏以及动态稀疏时,IPU就有了比GPU越来越显著的优势。
此外,如果是在IPU更擅长的分组卷积内核中,组维度越少,IPU的性能优势越明显,总体而言,有4-100倍的吞吐量提升。
在5G网络切片和资源管理中需要用到的强化学习,用IPU训练吞吐量也能够提升最多13倍。
分享
最新活动更多
-
3月27日立即报名>> 【工程师系列】汽车电子技术在线大会
-
精彩回顾立即查看>> 【在线会议】汽车腐蚀及防护的多物理场仿真
-
精彩回顾立即查看>> 【在线会议】汽车检测的最佳选择看这里
-
精彩回顾立即查看>> 2024工程师系列—工业电子技术在线会议
-
精彩回顾立即查看>> 【线下论坛】华邦电子与莱迪思联合技术论坛
-
精彩回顾立即查看>> 【线下论坛】华邦电子与恩智浦联合技术论坛
推荐专题
- 1 NVIDIA RTX 5060 Ti首发评测：8GB疯狂爆显存 16GB正好
- 2 索泰RTX 5070 Ti天启显卡评测：启世之环再进化 豪华八热管旗舰级体验
- 3 微星RTX 5060 Ti 16GB硬派师2X显卡评测
- 4 DLSS 4小钢炮：微星GeForce RTX 5060 Ti 16G INSPIRE 2X首发评测
- 5 联想卖爆了，但跟AI没啥关系
- 6 被中企打的快要完蛋了？三星：一个季度净赚420亿，没空理你
- 7 最适合高性能游戏本的锐龙9 9955HX3D！ROG魔霸9评测
- 8 映众RTX 5060 Ti曜夜16GB显卡评测：小巧简约 DLSS 4表现亮眼
- 9 最强国产X86 CPU曝光：128核，512线程，性能直追intel/AMD
- 10 OPPO、华为入局！手机主动散热复兴，是没活硬整吗？
发表评论
请输入评论内容...
请输入评论/评论长度6~500个字
暂无评论
暂无评论