如何提升IoT芯片AI运算效率却不增加功耗成为IC设计产业难题

在5G、AI、IoT可说是近几年半导体产业最热门的议题的情况下，为因应5G时代AI边缘运算需求持续增加，如何提升IoT芯片AI运算效率却不增加功耗，已成为IC设计产业难题。对此，力积电董事长黄崇仁表示，透过力积电新开发的AI芯片，可以有效降低AIoT应用服务设备开发成本。

黄崇仁20日于2019日本嵌入式&物联网技术大展（ET&IoT Technology 2019）上进行专题演讲时表示，力积电开发中的AI芯片（AI Memory）技术，是将MCU与DRAM整合到单一芯片上，并让存储器资料可依照需求进行非循序存取，进而提升影像神经网路运算10倍处理效率，让IC设计业者开发出体积更小的单芯片电脑（Single Chip Computer），进而降低AIoT应用服务设备开发成本。

黄崇仁进一步指出，人类大脑有大约10的11次方个神经元（neuron）与10的15次方个突触（synaptic），形成一个连接线路高达数千英里的立体性神经网路架构。但是，整个大脑的耗电量只有25瓦，可说是非常省电。力积电在研究分析大脑神经元运作架构之后，耗费许久开发出AI芯片（AI Memory，AIM）技术，协助IC设计业者可以开发出给AI运算用的AI芯片，不仅低耗电，AI运算效率也能符合应用需求。

他还表示，IC设计业者可以透过AIM Innovation Service Platform架构，与力积电、智成电子、爱普科技合作，将CPU与DRAM相关IP放在同一颗芯片中。如此一来，MCU到DRAM的资料传输，可以从常用的32位元大幅提升至4096位元，不仅增加资料传输频宽，并且达到低延迟与低耗电效果。甚至，还可以把Wi-Fi芯片功能包进去，让单一芯片可以获得相当于单芯片电脑所需功能，并能降低芯片耗电量。

而以行车安全最需要的ADAS（先进驾驶辅助系统，Advanced Driver Assistance Systems）应用为例，若是采用AIM技术所开发的单芯片，搭配影像神经网路加速运算程式（Video Neuron Network Accelerator，VNNA），在进行1080p RGB影像物件分离处理上，可以达到10倍的执行效率，但耗电量却只要原来的十分之一，可说是非常省电又有AI运算效率。同样的架构与技术可以让自驾车、无人车、摄影机、影像监控等芯片供应业者采用，协助相关芯片业者开发出具有特定领域的AI加速芯片产品。

此外，由于在范纽曼型架构（von Neumann architecture）下，传统AI运算上会碰到的频颈是资料需要循序处理，不符合AI运算情境上其实是要能非循序存取的需求。而力积电的AI Memory技术，就可开发出后范纽曼型架构的存储器处理方式，除了将CPU到DRAM的频宽大幅提升，甚至可以在存储器存取上加入控制威廉希尔官方网站 ，以非循序存取的方式高速读取DRAM资料，进而提升AI运算执行效率。
责任编辑：wv