新闻提要
恩智浦在eIQ AI和机器学习开发软件中增加了带有检索增强生成(RAG)与微调的生成式人工智能(GenAI)流程和eIQ Time Series Studio,以便在小型微控制器(MCU)、功能更强大的大型应用处理器(MPU)等各种边缘处理器上轻松部署和使用AI。
恩智浦半导体宣布在其eIQ AI和机器学习开发软件中增加两款新工具,以便轻松在各种边缘处理器上部署和使用AI边缘。
eIQ Time Series Studio提供自动机器学习工作流程,可轻松在MCU级芯片(如MCX系列MCU产品组合或i.MX RT跨界MCU产品组合)上开发和部署基于时间序列的机器学习模型。
GenAI流程为支持生成式AI解决方案的大语言模型(LLM)提供构建模块。此类方案与MPU(如恩智浦i.MX系列应用处理器)结合使用,通过在特定上下文数据中训练LLM,简化智能边缘的部署。例如,配备LLM的电器经过用户手册训练后,能够用自然语言与用户交流,告知用户如何使用特定功能、执行特定任务或优化使用和维护。
重要意义
在边缘部署AI有诸多好处,包括降低延迟、加强用户隐私保护及减少能耗。恩智浦eIQ工具包扩展可显著简化并加速部署流程,开发人员能够访问更广泛的使用各类模型类型,包括生成式AI、基于时间序列的模型以及基于视觉的模型。此外,用户能够在各类边缘处理器上部署模型。
恩智浦半导体资深副总裁、工业和物联网总经理Charles Dachs表示:“AI是实现基于用户需求进行预测和自动化的关键,但它必须以适用于边缘部署的方式进行开发。恩智浦为MCU(如MCX系列)、i.MX RT700等跨界MCU上的小型AI模型以及在i.MX 95应用处理器等更强大的设备上运行的大型生成式AI模型提供即时可用的工具,为开发人员提供了丰富的选择,涵盖各类AI模型和支持AI的边缘处理器,使得边缘AI真正适用于各行各业的应用开发人员” 。
eIQ Time Series Studio可简化并加速基于时间序列的AI模型的开发与部署,支持多种输入信号(如电压、电流、温度、振动、压力、声音、飞行时间及信号组合)以及多模态传感器融合。借助自动机器学习功能,开发人员能够从原始时间序列数据中提取有意义的见解,快速构建符合性能、内存、Flash存储大小和精度要求的AI模型。该工具提供完整的开发环境,包括数据管理、可视化和分析以及模型自动生成、优化、仿真和部署。界面简洁直观,软件开发人员无需具备深厚的数据科学或AI专业知识即可创建经过优化的异常检测、分类和回归库。
恩智浦的GenAI流程使得生成式AI应用可以在边缘设备上部署。这一软件流程提供了优化生成模型的方法,并提供检索增强生成(RAG),可在不向模型或处理器提供商披露敏感信息的情况下,利用领域特定知识和私有数据以安全的方式微调模型。通过将多个模块接入单一流程,客户可根据其任务轻松定制LLM,并使用恩智浦i.MX 95应用处理器等MPU对其进行优化,以便在边缘部署。
-
恩智浦
+关注
关注
14文章
5857浏览量
107395 -
机器学习
+关注
关注
66文章
8414浏览量
132601 -
边缘AI
+关注
关注
0文章
93浏览量
4995
原文标题:eIQ软件升级啦!增加两款新工具,让边缘AI部署和使用更轻松
文章出处:【微信号:NXP客栈,微信公众号:NXP客栈】欢迎添加关注!文章转载请注明出处。
发布评论请先 登录
相关推荐
评论