设备管理 Proc
1.bm-smi等设备管理工具
- bm-smi以界面或者文本的形式显示设备状态信息,如设备的温度、风扇转速等信息;也可使能、禁用或者设置设备的某些功能,如led、ecc等。
- proc文件系统接口:在/proc 节点下创建设备信息节点,用户通过cat或者编程的方式读取相关节点获取设备温度、版本等信息。
- sysfs 文件系统接口:用来获取 TPU 的利用率等信息。
2. bm_model.bin
- 通过bm_model.bin工具,可以查看bmodel文件的参数信息,可以将多个网络bmodel分解成多个单网络的bmodel,也可以将多个网络的bmodel合并成一个bmodel。
3.bmrt_test
- bmrt_test是基于bmruntime接口实现的对bmodel的正确性和实际运行性能的测试工具
4.view_demo
- 使用view demo,可以通过calibration可视化分析工具查看网络量化误差,此工具通过运行fp32和int8网络, 并对其每层的输出进行比较,以图形化界面形式直观显示每层数据的量化损失。
5.BMProfile
- BMProfile是将用户产生的profile信息以可视化的方式展示出来。主要作用是辅助用户进行网络的性能分析,查看Graph、SubGraph、layer、算子、指令等各个级别的性能数据和Memory使用情况。此外,还可以对静态网络的指令进行分析过滤,以分析出越界读写等问题。
更多回帖