AI视觉技术在智能边缘加速落地

Intel 前不久提出了物联网方向的三大战略：第一，为物联网定制高性能的计算及加速芯片；第二，促进边缘计算负载整合的技术发展方向，抓住网络及器件边缘计算的良好机遇；第三，专注于计算机视觉，以及 AI 计算应用带来的巨大变化。

Intel 认为在物联网的发展过程中，边缘计算的最新发展趋势——智能边缘，能够加速物联网的演进。Intel 物联网事业部副总裁、中国区总经理陈伟表示：“边缘计算的落地，尤其是边缘计算+AI+行业的应用模式，表明只有用贴近真实应用需求的方式，才能让边缘计算在当下数字社会生根发芽。”

AI 视觉技术在智能边缘加速落地

据麦肯锡预测，全球市场深度学习收入将呈现飞速增长，到 2030 年，AI 有望造就 13 万亿美元的经济活动。特别是随着智慧城市、商超、交通、工业互联网等应用场景对视频数据分析需求的激增，AI 与视觉技术正在加速智能与边缘计算的融合，将为汽车、互联网、教育等十余个行业的数智化变革提速赋能，助推货架分析、文本识别、热力图、车辆检测识别、缺陷检测等应用场景落地。作为边缘计算的发展趋势，智能边缘将与 AI、5G 关键技术转折点相互交织，推动智能进入新的发展拐点。

而边缘计算中不同应用场景的需求大不相同，需要使用不同神经网络模型、要求算力灵活、部署灵活、开发时间及成本优化等。为了贴近这些诉求加速落地，Intel 推出了最新的 AI 计算盒参考设计，可以说是 Intel 加速“智能边缘”的又一实践，也是在中国市场的又一重要尝试。

据 Intel 技术专家介绍，AI 计算盒参考设计硬件平台以 Intel 通用计算平台 CPU 为主，可以配备 FPGA 或 Movidius VPU 为架构的神经网络加速芯片以及加速卡，形成方案组合，可以为多样化企业级应用提供兼容能力，以及在高并发计算量需求下的可扩展性；此外还有包括凌动、酷睿、至强处理器在内的不同选择，能够提供丰富的功耗和成本选择。

软件方面，由于目前市面上的应用场景多以视觉为主，因此软件工具主要辅以 OpenVINO 工具套件，来帮助客户处理计算机视觉、视频分析类等应用。在底层，AI 计算盒提供了针对硬件优化的底层库来提升性能，包括媒体处理 Media SDK、深度学习推理工具 OpenVINO 工具套件、算法库及算子级优化的库和编程接口。在此之上，AI 计算盒还可支持如 G-streamer， FFMPEG 等不同的媒体框架，并提供如 IPC 输入、解码 /VPP、转码、RAID 存储、视频分析、拼接 / 显示、特征匹配等基于视频场景优化的管道，更易于使用和集成。此外，在应用层，AI 计算盒还可提供近似实际应用的参考示例，实现快速原型开发，缩短上市时间。

基于 Intel 的 AI 计算盒参考设计能带来哪些优势？Intel 技术专家表示，由于应用场景千差万别，因此大家对硬件平台的成本、功耗、扩展性、灵活性都有不同的需求，很难通过单一指标来进行评判，Intel 的目标是如何能让最终用户得到最经济、实用并适合的产品。与市场其他同类产品相比，Intel 最大的优势就是硬件平台类型多样化，这是基于多年来在半导体的生产、制造和设计上，投入了巨大的研发、生产成本，可以满足多种需求。再辅以完整的软件栈，可以全方位提供经济实用的产品。

利旧项目和新部署项目有何不同需求？

目前基于视觉的 AI 项目落地较多，从实际应用场景来看，一部分是利旧项目，另一部分是新部署项目。这些项目对 AI 计算盒有哪些不同要求？

Intel 物联网销售市场部中国区总监谢青山介绍，对于新项目来说，可以在设计之初就将 AI 能力考虑进去，相对比较容易。但是对于利旧项目中已有的 IT 设备来说，已经投入了巨大的 IT 软硬件资源，客户更希望能利用现有设备来支撑，或是在现有基础上新增 AI 能力。

Intel 的硬件平台以及对操作系统的支持都是向前兼容的，这意味着用户现有产品可以兼容未来的 CPU。在 AI 解决方案上，Intel 沿用了这一思路，参考设计不仅支持新项目，在旧有项目中，也可以增加一部分资源，达到支撑新应用的目的。而不论是利旧还是新部署，谢青山提到，近两年来 AI 几乎成为边缘计算产品的必选功能，特别是从今年开始，这样的需求越来越多。

那么，谁是 AI 计算盒参考设计的目标用户？据介绍，参考设计主要包括三方面：硬件参考平台、算法以及解决方案，SV（软件开发商）、ODM/OEM（原始设计制造商 / 原始设备制造商）、SI（系统集成商）等都是重要的合作伙伴。

通过算法层面的参考设计，软件开发商可实现对不同应用场景软件及算法的快速定制和场景化，加速整个产品定义、算法研发及 AIoT 整体解决方案的落地速度。

硬件平台方面，Intel 不仅提供独立的 AI BOX，也有类似插卡式或模块化的产品，当用户现有硬件平台算力不够，就可以将这些 AI 加速硬件集成到现有的硬件平台上。据了解，Intel 与 ODM/OEM、系统集成商，在目标检测、活体检测、缺陷检测、视频结构化等多方面进行深度合作，将驱动智慧商超、智慧城市、智慧医疗、智能检测等多领域的落地。

AI 计算盒——CPU、FPGA、ASIC 平台如何抉择？

目前边缘端的 AI 方案有很多采用了 ASIC/FPGA 方案，而 Intel 的 AI 计算盒参考设计主要是以不同算力的 CPU 平台作主控，在开发成本、效率等方面，又有哪些优势？

据 Intel 技术专家的解读，客户首先是根据最终应用场景需求来进行选择的，Intel 有全方位硬件平台供应商 / 芯片供应商的优势，除了最著名的 CPU，其实 CPU 内部还集成了 GPU，同时 Movidius VPU 架构也已经完全融合到 Intel 的硬件平台上，同时也有 FPGA 和 ASIC 方案。Intel 的 AI 计算盒参考设计，一方面综合性能能够满足用户所需；另一方面，如果需要在 CPU 之外对 AI 加速计算辅助的话，可以通过 Movidius VPU 架构的芯片做加速。

从软件应用开发角度看，在边缘侧实现 AI 加速计算，从开发到部署有很多痛点，Intel 希望通过 OpenVINO 工具套件、Media SDK 为主的一系列软件工具，帮助降低 AI 算法开发上的难度，缩短开发周期。客户只需要考虑应用开发，至于计算分布仅仅是 CPU 实现，还是 CPU+加速芯片完成，这部分工作可以通过 OpenVINO 的辅助开发来进行。

从用户角度看，每种芯片各有优缺点。如果算法和算力需要能够升级和扩容的话，选择 CPU、GPU、VPU 会更容易，因为如果选择了 FPGA 和 ASIC，可能短期内适合，但考虑到升级和修改算法时，就会比较困难。

对于大部分的物联网用户来说，面临的应用场景千差万别，在半导体设计方面面临的最大问题就是量小、种类多，很难找到单一的、量特别大的应用，这就导致了算法和硬件平台的需求都不一样，比较适合选择 Intel 的 AI 计算盒参考设计。相比之下，如果选择了 ASIC 方案，前期投入和后续升级都会面临较大的问题。

也正是这种碎片化的特性，Intel 非常重视生态建设，希望持续推进其物联网合作伙伴计划，与更多的行业伙伴合作，推出从原型到生产加速智能边缘的解决方案。在推出 AI 计算盒参考设计的同时，Intel 携手小钴科技、科沃斯、云图睿视等十余家合作伙伴共同打造了“英特尔 AI 生态合作伙伴算法方案集萃”，将主要面向智慧城市、智慧零售、智慧教育、工业互联网等多元化场景加速落地。
       责任编辑：tzh