从数据到智能：边缘AI发展进入新阶段，方案部署面临怎样的挑战？

回顾2024年AI产业的发展，AI大模型依然在高歌猛进，不过将AI工作负载从云端卸载到终端的趋势已经非常明显，以边缘计算为承载的边缘AI潜力无限。根据STL Partners边缘计算关键数据统计，全球边缘计算市场规模预计将从2020年的90亿美元，快速增长到2030年的4450亿美元，其间年复合增长率为48%。AIGC时代的到来，加速了边缘计算与AI的深度融合，边缘AI的理念得到了各行业的广泛认可。
 
在最新的2025年预测中，NVIDIA AI专家预测，智能商店、新型机器人将不断崛起，并且医疗健康、制造业等领域将实现突破性发展。不断涌现的行业经典案例显示，边缘AI让终端数据体现出了更高的价值，从数据转化为智能是当下各行业的重点工作。
 
NVIDIA 2025年预测解读

NVIDIA 2025年预测的主题是《AI将深入挖掘行业数据湖》，在这份预测里，NVIDIA的AI专家谈到了很多行业应用——手术机器人、AI药厂、移动机器人（AMR）、智慧金融、AI工厂、智能电网、AI智能体、智慧零售等。这些极具创新潜能的应用表明，全球各个行业都在积极构建和定制大语言模型（LLM），AI大模型下沉至终端让“AI+”从理念走进现实，进而促成了这些典型应用。
 

图源：NVIDIA
 

正如NVIDIA医疗健康副总裁Kimberly Powell在谈到手术机器人时所说，数字孪生、模拟和AI让手术机器人变得更加强大，使其能够以各种方式协助人类临床医生，从理解和响应人类指令，到执行和协助复杂的手术。Kimberly Powell强调，用于训练机器人执行复杂任务的新型虚拟世界将会使自主手术机器人成为现实。这些手术机器人将能够精确地执行复杂手术任务，缩短患者的康复时间，并减少外科医生的认知工作量。
 
NVIDIA Omniverse和仿真技术副总裁Rev Lebaredian则提议，“让我们拥抱物理AI，为能够感知、理解物理世界并与之互动的AI模型做好准备，这是企业将要竞相应对的一项挑战。”可能很多人对于物理AI这个概念还有一些陌生，简单理解，物理AI就是在数字世界里通过3D重构的方式模拟物理世界，可以让算法模型更好地理解物理世界，适应物理世界的约束。物理AI需要根据真实场景完成基于物理学的大规模仿真，可以让机器人等智能体在虚拟世界中快速完成各种训练，训练的成本和效率都得到了显著优化。
 
其他NVIDIA AI专家的预测就不在此一一展开，但这些预测实际上更多是应用领域的差异，在实现逻辑上有很大的共性，基本是围绕智能体、AI大模型下沉、虚拟现实、物理AI、物理仿真等理念展开，完成细分领域的“AI+”。所实现的成果就是，基于细分领域的数据构建AI模型或仿真，然后用模型和仿真结果赋能终端实现更好的智能化。
 
因而，透过NVIDIA AI专家的预测不难看出，从数据转化为具体的AI应用将为终端行业带来巨大的价值空间。数据价值挖掘是一种通过数据分析、机器学习、统计方法等技术手段，从大量数据中提取有用信息和知识的过程。随着AI大模型、物理AI和智能体等概念的强化，数据挖掘和转化的目标变得更加清晰，数据的增长也不再局限于云端或数据中心里，终端设备成为源源不断的数据源。然后基于数据的算法、模型和智能体将具备更强大的智能化能力，能够以更快的速度、更低的成本和更低的功耗提供实时分析和反馈。这种相互促进让终端应用得以快速迭代，不仅高效、低功耗、安全，并具有很强的垂直属性，包括个性化定制的属性。
 
综上所述，边缘AI在2025年将发生一些显著的变化，不再只是简单地基于通用算法和基础算力，而是基于行业数据打造专属的大模型和智能体，能够根据实时的数据采集给出及时的反馈和策略调整，已经具备具身智能的雏形。这种趋势将受到各个终端行业的欢迎，正如分析机构Gartner在报告中提到的，到2025年将有75%的数据产生在数据中心和云之外，并在边缘侧进行处理；到2026年，86%的边缘开发者在项目开发时会将目标锁定在AI方向。
 
边缘AI部署的现状、挑战和应对之策

NVIDIA AI专家的预测告诉我们，2025年边缘AI是大有可为的，且对创新有非常大的包容性。当然，现阶段各行业所面临的市场情况并不一致，且有明显的地域差异。简单看一下AI在一些典型领域的普及情况：
·自动驾驶：乘联会数据显示，2023年中国市场乘用车L2级自动驾驶的渗透率达到了47.3%，明显领先于全球（高盛数据称约为20%）；
·智能机器人：I-AIIG的数据指出，美国机器人市场中AI驱动的高端机器人系统占比为30%，远高于全球平均水平。
·人形机器人：Omdia最新报告指出，2027年全球人形机器人销量破万，当前处于行业爆发的前夜。
 
随着各行业对于边缘AI的认可度越来越高，参与度越来越深，边缘AI的部署开始出现既定的方案，比如NVIDIA全球副总裁、汽车事业部负责人吴新宙在分享自动驾驶预测时谈到的，支撑自动驾驶车辆开发有三台关键计算机——一台用于在数据中心训练基于AI的堆栈，另一台用于模拟和验证，第三台车载计算机用于处理实时传感器数据以实现安全驾驶。
 
更前沿的人形机器人也是如此，目前人形机器人主要由感知系统、动力系统、控制系统、能源系统和通信模块等几个关键部分组成，其中感知系统和控制系统主要的职责就是实现智能化。控制系统是人形机器人的大脑，包含了主控芯片、子系统控制器和各种控制组件，主控芯片上运转着最核心的算法模型。
 
虽然经过一段时间的发展，边缘AI的部署不再是摸着石头过河，但仍有一些挑战需要去克服。边缘AI系统主要包括硅芯片层、硬件系统层、AI和应用层、垂直解决方案层。相较于云端AI，边缘AI在能效、实时性和数据安全方面展现出明显优势，然而，部署边缘AI方案的硬件资源是非常有限的，包括计算资源、存储资源和网络带宽资源皆是如此，如何基于有限的硬件资源构建强大的智能应用是所有行业共同研究的课题。为构建更好的边缘AI，开发者需要更强大的计算芯片，也需要通过量化技术、权重剪枝、低秩分解等技术尽可能去压缩AI模型，全面推动软硬件协同优化。
 
另外，在软硬件协同优化方面还会有一些额外的挑战，比如软硬件协同优化往往是基于训练数据，而忽视了最终的部署场景，上述内容已经提到，现阶段的边缘AI并不是简单的部署通用算法，而是需要模型根据实时数据进行反馈和临时决策，这就导致很多优化之后的方案在现场部署时还需要进行重新优化，有时候方案可能需要回溯到设计之初的阶段，这对开发者而言是很大的打击。
 
为了帮助各行业应对新时期边缘AI的部署挑战，让NVIDIA AI专家的预测更好地从理念照进现实，NVIDIA提供了丰富的解决方案。NVIDIA Blackwell架构和基于该架构的计算平台也为边缘AI提供了充足的算力保障，克服边缘AI的“算力不足恐惧症”,为生成式AI和加速计算带来突破性的进步。
 

Blackwell架构的技术突破，图源：NVIDIA

 
NVIDIA为各行业的边缘AI开发提供了丰富的开发资源、服务。面向智能机器人，基于NVIDIA Omniverse构建的Isaac Sim是一款参考应用，允许开发者在基于物理的虚拟环境中设计、模拟、测试和训练基于AI的机器人和自主机器，在此过程中开发者可以选择自定义模拟器，也可以选择基于Isaac Sim现有技术构建方案。
 

NVIDIA Isaac Sim应用框图，图源：NVIDIA

 
面向物理AI，NVIDIA Omniverse平台提供了各种API、SDK和服务，可帮助开发者轻松将通用场景描述 (OpenUSD) 和RTX渲染技术集成到现有软件工具和仿真工作流中，以构建这些3D环境。NVIDIA Omniverse是西门子、富士康等行业龙头的共同选择，可以帮助完成工厂的数字孪生，机器人的虚拟训练空间搭建，以及帮助生产线进行自动光学检测、物体识别、缺陷检测和轨迹规划等。
 
面向汽车自动驾驶技术开发，NVIDIA DRIVE Orin系统级芯片已经在各品牌车辆上广泛搭载，同时基于NVIDIA Blackwell GPU架构的NVIDIA DRIVE Thor车载计算平台已经成为车企更新下一代自动驾驶技术的首选平台，赋能当前和未来主流的“AI定义汽车”。
 

NVIDIA DRIVE Thor车载计算平台，图源：NVIDIA

 
实际上，不仅是NVIDIA AI专家预测的这些应用，各种边缘AI的实现都可以在NVIDIA找到合适的方案，包括计算平台、虚拟空间、参考示例和核心技术等。同时，开发者也可以从云端获取NVIDIA先进的AI技术，目前NVIDIA NIM微服务已经扩展到各项关键的亚马逊云科技AI服务中，包括NVIDIA Nemotron-4（先进的 LLM）、Llama 3.1 8B-Instruct（8B大语言模型）、Llama 3.1 70B-Instruct（70B大语言模型）和Mixtral 8x7B Instruct v0.1（专家模型）等。
 
结语

随着AI大模型和算力逐渐下沉，2025年边缘AI可谓是前景无限。正如NVIDIA机器人与边缘计算副总裁Deepu Talla预测的那样：在不久的将来，从手术室、数据中心到仓库和工厂，机器人将无处不在。甚至交通控制系统，又或整个城市，也将从静态、人工操作的系统转变为基于物理AI的自主交互式系统。
 
但是需要注意到的是，边缘AI的核心要义正在发生变化，已经初具具身智能的能力，可以和环境进行交互，这对整个边缘系统提出了更高的要求。在应对这些设计挑战时，NVIDIA的硬件和方案是开发者的得力帮手，推动边缘AI方案的升级迭代。