近年来,边缘计算和物联网技术蓬勃发展,将AI能力部署到资源受限的设备上成为迫切需求。而DeepC,这款独立于厂商的深度学习库、编译器和推理框架,正为此而生!它专为微控制器、物联网和边缘设备等小型设备而设计,让你的AI应用触手可及。
什么是DeepC?
DeepC不仅仅是一个普通的深度学习库,它是一个集成了库、编译器和推理框架的完整解决方案。它专注于小型设备的特点,例如微控制器、eFPGA、CPU以及各种嵌入式设备,包括树莓派、Odroid、Arduino、SparkFun Edge、RISC-V、手机、x86和ARM笔记本电脑等。DeepC 提供了提前编译功能 (Ahead-of-Time Compiler),基于LLVM编译器工具链,针对深度神经网络进行优化,并以ONNX作为前端,实现了高效的模型转换和部署。
DeepC 的优势:高效、便捷、跨平台
DeepC 的设计目标是高效、便捷和跨平台。它具有以下核心优势:
高效的模型优化: DeepC的核心组件设计用于在高级图IR中表示和优化常见的深度学习网络,并能转换计算图以最小化内存使用、优化数据布局以及融合不同硬件后端的计算模式。这确保了在资源受限的设备上也能获得高性能的推理速度。
便捷的部署流程: DeepC 支持多种部署方式,包括Colab Notebook、pip安装(Ubuntu, Raspbian等Debian衍生系统)、Docker镜像,以及通过ONNX模型编译等,大大降低了开发者的使用门槛。
广泛的硬件支持: DeepC 支持多种架构,包括ARM、ARMv7、ARM64、AMD64、ppc64le等,并兼容多种操作系统,例如Ubuntu、CentOS、Arch Linux、Manjaro、Windows和Mac OS,真正实现跨平台部署。
DeepC 的架构设计
DeepC 的架构设计精巧,旨在最大限度地提高效率和兼容性。其高层设计文档详细阐述了各个组件之间的交互和工作流程,确保了系统的稳定性和可扩展性。
快速上手 DeepC:只需几步
DeepC 提供了多种便捷的上手方式,即使你没有丰富的嵌入式开发经验,也能快速上手:
pip install deepC
命令即可完成安装。开发与构建 DeepC
DeepC 的源代码开放,开发者可以自由参与贡献和修改。以下步骤介绍如何在不同操作系统上构建 DeepC:
Ubuntu 18.04:
sudo apt-get update
sudo apt-get install build-essential python3.6-dev python3-pip swig doxygen clang-format clang clang-8 llvm-8 llvm-8-dev protobuf-compiler libprotoc-dev
sudo pip3 install numpy==1.15.0 onnx==1.5.0
git clone https://github.com/ai-techsystems/deepC.git
cd deepC
make
Mac OS / Windows 10:
在 Mac OS 和 Windows 10 系统上,建议使用 Docker 容器进行构建,这避免了复杂的依赖项管理。 你需要先安装 Python 和 Docker,然后执行:
git clone https://github.com/ai-techsystems/deepC.git
cd deepC
python buildDocker.py
DeepC 的当前支持情况
DeepC 已经支持多种架构和操作系统,并且还在不断扩展:
总结
DeepC 作为一款强大且易用的深度学习框架,为边缘计算和物联网应用带来了新的可能性。它高效的模型优化、便捷的部署流程以及广泛的硬件支持,使其成为开发者构建下一代智能设备的理想选择。 立即体验 DeepC,开启你的边缘 AI 之旅!
项目地址:https://github.com/ai-techsystems/deepC