Vitis AI：从边缘到云的最佳人工智能推断

由 demi 提交于周五, 11 十月 2019 - 10:27

Vitis™ AI 是 Xilinx 的开发平台，适用于在 Xilinx 硬件平台（包括边缘设备和 Alveo 卡）上进行人工智能推断。它由优化的 IP、工具、库、模型和示例设计组成。Vitis AI 以高效易用为设计理念，可在 Xilinx FPGA 和 ACAP 上充分发挥人工智能加速的潜力。

您的开发如何与人工智能协作：

<ul><li>支持主流框架和最新的模型，能够执行不同的深度学习任务。

<li>提供一系列全面的预先优化模型，这些模型现已就绪，可随时部署在 Xilinx 器件上。您可以找到最相似的模型，开始针对您的应用重新训练！

<li>提供一个功能强大的量化器，支持模型量化、校准和微调。对于高级用户，我们还提供一个可选的人工智能优化器，其可将模型修剪达 90%。

<li>AI 分析器提供逐层分析，有助于解决瓶颈问题

<li>AI 库提供高层次 C++ 和 Python API，可实现从边缘到云端的最大可移植性。

<li>可以从吞吐量、时延和电源角度定制可扩展的高效 IP 内核，满足您对许多不同应用的需求。</li></ul>

使用 Vitis AI 探索一切可能性：

AI 优化器

有了世界领先的模型压缩技术，我们可以在对精度影响极小的情况下，将模型的复杂性降低 5 至 50 倍。深度压缩可将您的 AI 推断性能提升到一个新的层次。

AI 量化器

通过将 32 位浮点权值和激活量转换为 INT8 这样的定点，AI 量化器可在不影响预测精度的情况下，降低计算复杂度。定点网络模型需要的内存带宽更少，因此比浮点网络模型速度更快，电源效率更高。

AI 编译器

将 AI 模型映射至高效指令集及数据流。还可执行高级优化任务，如层融合和指令排程等，并可尽量重复使用片上内存。

AI 配置器

性能分析器有助于程序员深入分析 AI 推断实现方案的效率和利用率。

AI 库

该运行时提供一系列轻量级 C++ 及 Python API，其可实现便捷的应用开发。此外，它还提供高效的任务调度、内存管理和中断处理。

模型简介

Vitis AI 模型专区包括优化的深度学习模型，可加速在 Xilinx 平台上部署深度学习推断的进程。这些模型涵盖不同的应用，包括但不限于 ADAS/AD、视频监控、机器人和数据中心等。您可以从这些预先训练的模型启动设计，享受深度学习加速的优势。

Xilinx AI 平台支持大量 AI/ML 模型，如下所示。我们始终致力于将最新的模型引入我们的平台：

通用应用

  •   图像分类：Googlenetv1、Resnet50、Resnet101、Resnet152 Inception v1、BN-inception、VGG16、SqueezeNet、Mobilenet、MobilenetV2
  •   目标检查：MobilnetV2-SSD, SSD, YOLO v2, YOLO v3, Tiny YOLO v2, Tiny YOLO v3
  •   市场细分：ENet, ESPNet

人脸

  •   面部检查：SSD、Densebox
  •   路标定位：坐标回归
  •   面部识别：ResNet + Triplet / A-softmax 丢失
  •   面部属性识别：分类与回归

行人

  •   行人检查：SSD
  •   姿态估计：坐标回归

视频分析

  •   目标检查：SSD、RefineDet
  •   行人属性识别：GoogleNet
  •   汽车属性识别：GoogleNet，修改后的 Densebox + GoogleNet
  •   车牌检查：修改的 DenseBox
  •   车牌识别：GoogleNet + 多任务学习

ADAS/AD（自动驾驶）

  •   目标检查：SSD、YOLOv2、YOLOv3
  •   车道检测：VPGNet
  •   语义分割：FPN

点击 “<a href="https://github.com/Xilinx/AI-Model-Zoo">这里</a>”，访问 Xilinx AI Model Zoo