首先十分感谢社区和机械工业出版社组织这次活动。在大约两周前收到了这本书。
本人从事嵌入式系统开发多年。在近两三年，越来越多的嵌入式设备都开始支持AI，不过嵌入式设备一般对于成本和功耗有比较严格的要求，因此不可能像PC机那样，随便运行比较复杂的AI算法。这本书刚好就介绍了如何将AI框架部署到嵌入式设备上面
这本书首先介绍了深度学习和软件框架，这部分知识对于从未接触过AI的人来说还是很有用的。
然后介绍了目前通用平台的支持情况。这本书重点讲的是手机端的AI框架，比较有参考意义的就是海思的HiAI和高通SNPE，它也代表了这类CPU内置的AI加速器如何运行通用模型。目前在Android端，支持比较好的还是谷歌自家的tf lite。
之后就是实操了，它提供了多个硬件平台在Android系统下的参考，如下
如果有对应平台的手机，是可以试一下的。
最后有一点个人感想。目前来看，AI部分的功能，还是没有像其他硬件外设那样，在HAL层有很完整的适配，生态相对来说还是比较分散，这可能是因为各家AI加速器的特点不一样，对于模型的优化也不一样。如果要通用的支持，估计要把模型转换工具也一并部署到设备端。比如训练一个tf lite的模型，然后放到板上做转换，然后再将这转换后模型导入使用。但是模型转换工具一来十分庞大，二来对性能和内存要求高，所以也不易实现。
所以还是期待未来有一种通用的模型，能够原生在各种通用平台上运行
更多回帖
