从GTC 2024再探讨企业部署生成式AI策略

笔者在《2024:核心生产力工具AI化元年(企业篇)》中提到,企业AI基础设施需要先评估企业自身的业务需求、规模和IT能力,再考虑采用公有云服务还是私有方案。而不论是OpenAI的Sora,还是刚刚开源的,拥有1320亿参数的大模型DBRX,都已经向世界上所有消费者和企业展示了一件事,即:最强大生成式AI的能力依赖性能强大的算力组件,而想要建立驱动这些生成式AI的算力组件,所需的成本完全无法估量——不仅仅是需要的IT硬件和人力成本,生成式AI研发的时间成本也是不可想象的投入。
 
这意味着除了微软、Meta、谷歌、英伟达这些AI研发集团和部分具备AI部署能力的基础设施供应商,一般企业不可能(也不应该)投入如此巨大的成本开发生成式AI,因此就当下而言,选择集成生成式AI的基础设施供应商,同时直接采购AI研发供应商,或者采购AI软件供应商的产品,就成为了大多数企业的最优解。
 
在3月19日的GTC大会演讲中,黄仁勋介绍的NVIDIA NIM微服务和NVIDIA NeMo云原生AI框架则为企业提供了部署生成式AI的新选择。作为当今最大的AI硬件供应商,NVIDIA亲自下场提供企业级生成式AI部署服务,某种程度上为上述选择提供了在集成度和可靠性上的背书。普通企业只要考虑业务需求和支出,就可以以最快的速度采购、部署并使用各类生成式AI赋能员工和业务,实现企业的深度数字化转型。

源于实际企业用例的AI能力

黄仁勋在演讲中提到,NVIDIA内部的芯片设计师和开发者们正在使用NIM微服务和NeMo云原生AI框架为今后更高性能的AI芯片进行辅助设计,而这种在企业内部率先采用自研新技术来积累业务经验的做法,早在云计算时代就已不是新鲜事。
 
不论是云计算还是AI,其早期都被研究者、开发者和企业用户诟病,认为这些新技术不仅在技术上不可靠,同时也导致数据精度的缺失而无法在工具或服务上线后立即解决痛点。但由于云计算和AI强大的可扩展性(不论是在硬件还是业务范围上),加之越来越多元的企业需求和细分业务不断涌现,这两项技术逐渐受到越来越多企业的青睐,并开始依靠真实的业务需求和实践进行迭代和优化。尽管这其中出现过如Microsoft Teams的数次全球宕机,Google服务完全不可用等震撼全球的问题出现,现在几乎所有对业务有多元化需求的企业都在使用云服务和AI。请持续关注微信公众号:bradliublog,关于云计算部分技术的解读即将刊登,敬请期待。
 
生成式AI、大语言模型以及即将能够广泛使用的多模态模型能够再次颠覆工作形态的关键核心在于这一次的AI迭代不仅仅基于算力,而是结合了自云计算大规模商用以来人类所有在互联网上提供的真实案例与数据,并通过更易于人类理解的方式展现出AI的价值。所以,我们现在无需考虑从哪些业务着手,让新技术经历真实案例的洗礼后达到可用状态,只需要做好部署工作就可以立即使用它们了。
 
所以,供应商目前所要解决的问题就变成了:如何帮助企业更快、更友好地部署并启用生成式AI;并且很明显,在GTC 2024上黄仁勋所介绍的,NVIDIA自家的AI商用服务就是这个问题的标准答案。

从硬到软的一揽子解决方案

NVIDIA最核心的优势有二:深耕多年的CUDA平台和针对Transformer模型持续的硬件优化。这为NVIDIA在今天在AI算力硬件上一骑绝尘做出了至关重要的铺垫。尽管在学界看来,随着新的编程平台和深度学习模型的不断推陈出新,人工智能被单一的硬件强绑定这一事实并不会在历史长河中存在太久,但仅就目前几年来看,NVIDIA在人工智能硬件领域的优势地位几乎不可撼动。
 
这就为NVIDIA拿出部署生成式AI的软硬件一揽子解决方案提供了得天独厚的条件。由NVIDIA内部开发的NVIDIA AI Enterprise方案可通过NVIDIA显卡驱动,以NVIDIA NeMo端到端云原生框架等一系列工具为主要平台进行内部开发,利用NVIDIA NIM等微服务构建并部署AI应用——当然,NVIDIA也提供了直接打包的DGX平台,从硬件到软件,不仅可以实现本地部署,也能够随时随地在云端开始。

企业级生成式AI的“C面”

目前,围绕人工智能相关的工具研发企业都在以飞快的速度被行业内顶尖巨头收购,而AI本身的研发对于非科技行业的大型企业而言几乎不可能,因此直接选择基础设施供应商的解决方案几乎成为了普通大型企业的唯一选择。但是对于小微企业而言,能够快速部署的本地小模型和简单开发即可在全公司启用的AI应用将会成为另一大趋势。这和在疫情之前小微企业依靠直接租用供应商的裸机,并在基础上简单开发内部协作软件,再与内部文件系统进行结合方式如出一辙。开发者只需要在基础设施裸机上部署9~70B左右参数的小模型并定期维护,再在此基础上构建面向企业特定业务的AI应用,就能让整个企业获益。
 
而这种部署和开发流程往往都能够在互联网和各种开发者论坛或者顶尖企业的开发课程和网页上找到,服务器裸机的月租价格往往也都在小微企业能够接受的范围——遇上打折的话价格可能甚至在四位数——这就意味着对于个人而言够用的小模型,往往也是对生成式AI有实际需求的小微企业手中的香饽饽。但小微企业最大的问题除了资金成本,就是人力。比如启用容器服务器后的企业IT不仅需要有经验的开发者,更需要他们能够随时随地上线解决任何突发状况。因此尽管小模型有着相当不错的成本优势,云端本身的搭建和维护,即便是简单开发也会消耗打工人大量的时间和精力。
 
所幸的是,不仅是NVIDIA,微软等企业也在通过开发各种工具或并购各类AI周边开发的初创企业等措施,为加速小模型的本地部署和维护做出各种努力。在理想状况下,这些小模型不仅兼顾业务,也能辅助个人或小微企业,对云端本身进行监控和维护——就像现在的智能驾驶汽车那样——这将为个人和小微企业的日后成长提供更加可靠和广大的空间。