通过内存中的模拟计算来消除内存瓶颈

（文章来源：东方财富网）

当内存本身可以用来减少计算所需的功耗时，在边缘执行推理操作就变得非常省电。使用内存中的计算方法可以将必须移动的数据量最小化。这反过来又消除了数据传输过程中所浪费的能量。采用超低有功功率耗散、待机状态下几乎无能量耗散的闪速电池，也会进一步降低了系统的能量耗散。

这种方法的一个案例是来自Microchip公司的Silicon Storage Technology (SST) ——memBrain？技术。基于SST的SuperFlash？内存技术，解决方案包括一个内存计算架构，可以在存储推理模型的权重的地方进行计算。这消除了MAC计算中的内存瓶颈，因为权重没有数据移动——只有输入数据需要从输入传感器(如摄像头或麦克风)移动到内存阵列。

这个内存的概念基于两个因素：(a)模拟电流响应从一个晶体管是基于其阈值电压(Vt)和输入数据，和(b)基尔霍夫电流定律，即导体网络中在一点相接的电流的代数和为零。

理解基本的非易失性内存(NVM)位元组(bitcell)同等很重要，它被用在这种多层内存架构中。下图是两个ESF3(嵌入式SuperFlash第三代)位元的横截面，它们具有共享擦除门(EG)和源线(SL)。每个位元有五个终端：控制门(CG)、工作线(WL)、擦除门(EG)、源线(SL)和位线(BL)。擦除操作是通过在EG上施加高压来完成的。对WL、CG、BL、SL施加高/低电压偏置信号进行编程操作，对WL、CG、BL、SL施加低电压偏置信号进行读操作。

使用这种内存架构，用户可以通过细粒度的编程操作在不同的Vt级别上对内存位单元进行编程。该存储技术利用一种智能算法来调整存储单元的浮动门(FG) Vt，以实现输入电压的一定电流响应。根据最终应用的需要，我们可以在线性或阈下工作区域对单元进行编程。

上图演示了在内存单元上存储和读取多个级别的功能。假设我们试图在内存单元中存储一个2位整数值。对于这个场景，我们需要用2位整数值(00、01、10、11)的四个可能值中的一个对内存数组中的每个单元进行编程。下面的四条曲线是四种可能状态的IV曲线，电池的电流响应取决于施加在CG上的电压。
      （责任编辑：fqj）