极术小姐姐 · 2022年11月16日 · 广东

安谋科技“周易”NPU软件开源项目正式上线，解决你的“算法移植”焦虑

万物智联时代，NPU成为AI 算力需求“刚需”。身为算法攻城狮的你，是否还在为上层软件应用、算法开发的一系列难题“头秃”不已？市面上针对AI芯片推理侧的解决方案纷繁复杂，如何选择最适合自身硬件的软件工具？针对占据大部分工作量的“算法移植”，如何找到合适的工具以规避“重复造轮”.....

针对上述开发者在NPU研发上所遇到的共性问题，安谋科技近日发起“周易”NPU软件开源计划，通过开放源码，来满足客户更自主、更灵活的算法移植需求，携手更多开发者以及合作伙伴共建国内NPU产业生态。“周易”NPU是由安谋科技自研的一款面向人工智能的专用处理器，在物联网、智能终端、汽车等市场均有实际落地，已经形成一套完整的工具链及技术服务，可适配100多种算法。

在“周易”NPU软件开源计划下，安谋科技率先对外开放NPU中间表示层规范、模型解析器、模型优化器、驱动等，并提供免费的软件工具链，包括软件模拟器、调试器、C编译器。目前，安谋科技已开源其“周易”NPU软件工具Compass的前端，并在开源计划的第一阶段开放以下资源：

• Compass解析器——解析器源代码和中间层表示规范；
• NPU Linux驱动——更易在现有SoC上部署，并符合GPLv2协议；
• Compass集成——提供“周易”NPU网络构造工具端到端验证环境；
• 模型仓库——已验证的开源NN模型，便于测试和快速上手。

其中，Compass解析器的主要作用是将多种框架的模型转换成“周易”NPU的中间表示，开发者可以基于源码进行修改以适配更多神经网络模型。除了调试、验证解析器本身功能之外，开发者还可以在极术社区上免费获取软件工具链，进行算法模型端到端的调试和验证。如下图所示，Compass解析器不仅支持基于软件仿真器的调试和结果验证，还可以部署到内嵌“周易”NPU的芯片上进行测试和性能优化。

安谋科技已分别在代码托管平台Gitee、GitHub上建立该项目的开源库，开发者可以方便地在这些平台上获取资源。据悉，这只是“周易”NPU软件开源计划的第一步，安谋科技后续还将逐步开放更多资源，例如模型优化器、模型量化、算子实现等源代码。

截止目前，“周易”NPU软件开源计划已吸引第一批合作伙伴“入驻”，并收获入驻伙伴的集体点赞，其中不乏来自AIoT、智能汽车、智能操作系统等领域的明星企业。这些合作伙伴均表示将基于该计划与安谋科技继续深化合作，加速构建中国智能计算生态“朋友圈”。

项目链接：

• https://gitee.com/Arm-China
• https://github.com/Arm-China

相关资源

• 周易NPU专题页