bot.gif
close
正在加载
AI芯片缺陷——Nvidia GPU的替代品
互联网 · 2024-10-10 10:50
946
摘要
2024年1月,领先的私募股权公司黑石集团宣布将建立一个250亿美元的人工智能数据帝国 。
币界网报道:
HodlX客座文章 ; ;提交您的帖子
 ;

2024年1月,领先的私募股权公司黑石集团宣布将建立一个250亿美元的人工智能数据帝国。

几个月后,OpenAI和微软紧随其后,提出了建造Stargate的提议,这是一台价值1000亿美元的人工智能超级计算机,将把公司推向人工智能革命的前沿。

当然,这并不奇怪。随着人工智能行业在过去几年中的快速发展,世界各地的行业巨头都在疯狂地抢前排座位。

专家们已经预测,到2030年,全球人工智能市场的规模将达到8270亿美元,年增长率为29%。

唯一的问题?GPU。

冯·诺伊曼的体系结构,大多数通用计算机运行的设计模型由CPU、内存、I/O设备和系统总线组成–i尽管它提供了简单性和跨系统兼容性,但本质上是有限的。

这种架构的单一“系统总线”限制了内存和CPU之间传输数据的速度因此,这使得CPU在人工智能和机器学习方面不够理想。

这就是GPU(图形处理单元)发挥作用的地方。

通过将并行性作为一种处理技术,GPU通过其多核提供了更高的性能和独立的指令执行。

然而,随着人工智能技术的出现,对GPU的需求激增,给供应链带来了压力,并给许多研究人员和初创公司的努力带来了严重的瓶颈。

尤其如此,因为全球GPU的供应仅来自一家主要生产商Nvidia。

虽然AWS、谷歌云平台和其他超大型零售商可能可以轻松访问英伟达的A100和H100,但还有哪些可行的替代方案可以帮助公司、研究人员和初创公司抓住人工智能列车,而不是无限期地被困在英伟达的候补名单上?

现场可编程门阵列

FPGA(现场可编程门阵列)是可重新编程的集成电路,可以配置为满足特定的任务和应用需求。

它们具有灵活性,可以适应不同的要求,并且具有成本效益。

由于FPGA在并行处理方面效率很高,因此它们非常适合人工智能和机器学习的使用,并且在现实应用中具有明显的低延迟。

在特斯拉D1 Dojo芯片中可以看到FPGA的一个有趣实现,该公司于2021年发布了该芯片,用于训练自动驾驶汽车的计算机视觉模型。

然而,FPGA的一些缺点包括构建硬件所需的高工程专业知识,这可能会转化为昂贵的初始购置成本。

AMD GPU

2023年,Meta、Oracle和微软等公司表示,他们对AMD GPU感兴趣,认为这是一种更具成本效益的解决方案,也是避免潜在供应商与占主导地位的Nvidia锁定的一种方式。

例如,AMD的Instinct MI300系列被认为是科学计算和人工智能应用的可行替代品。

其GCN(图形核心下一代)架构强调模块化和对开放标准的支持,加上其更实惠的价格点,使其成为Nvidia GPU的有前景的替代品。

张量处理单元

TPU(张量处理单元)是被编程为执行机器学习任务的ASIC(专用集成电路)。

TPU是谷歌的创意,它依赖于特定领域的架构来运行神经网络,如张量运算。

它们还具有能效和优化性能的优势,使其成为扩展和管理成本的经济实惠的替代品。

然而,应该指出的是,TPU生态系统仍在兴起,目前的可用性仅限于谷歌云平台。

去中心化市场

去中心化市场也在试图以自己的方式缓解GPU供应链的紧张。

通过利用传统数据中心、学术机构甚至个人的闲置GPU资源,这些市场为研究人员、初创公司和其他机构提供了足够的GPU资源来运行他们的项目。

其中许多市场提供消费级GPU,可以充分满足中小型AI/ML公司的需求,从而减轻高端专业GPU的压力。

一些市场还为想要工业级GPU的客户提供了额外的选择。

CPU

CPU(中央处理单元)由于其有限的吞吐量和冯·诺伊曼瓶颈,通常被认为是人工智能的弱项。

然而,人们正在努力弄清楚如何在CPU上运行更高效的AI算法。

这些包括将特定的工作负载分配给CPU,如执行复杂统计计算的简单NLP模型和算法。

虽然这可能不是一个一刀切的解决方案,但它非常适合难以并行运行的算法,例如用于训练和推理的递归神经网络或推荐系统。

综合起来

用于人工智能的GPU的稀缺性可能不会很快消失,但有一个好消息。

人工智能芯片技术的持续创新证明了一个充满可能性的激动人心的未来,总有一天会确保GPU问题淡出人们的视线。

人工智能领域仍有许多潜力有待挖掘,我们可能正站在人类已知的最重大的技术革命的悬崖上。


Daniel Keller是InFlux技术在技术、医疗保健和非营利/慈善工作方面拥有超过25年的IT经验。他成功地管理了基础设施,弥合了运营差距,并有效地部署了技术项目。作为一名企业家、投资者和颠覆性技术倡导者,Daniel的精神与Flux Web 3.0团队中的许多人产生了共鸣——“为人民服务,为人民服务”——并深度参与了对人类有益的项目。

 ;

特色图片:Shutterstock/2Be Graphics/INelson

发表评论
暂无评论
查看更多评论
相关资讯