運用 iWave 的 Versal AI Edge 開發板上的 Vitis AI NPU，加速邊緣 AI 推論

邊緣人工智慧 (AI) 正在迅速轉換嵌入式系統處理和回應即時資料的方式。為了滿足邊緣智慧不斷增加的需求，iWave Global 成功地將 Vitis AI 神經處理單元 (NPU) 整合到 Versal™ AI Edge VE2302 系統模組 (SoM) 及其評估平台。

此整合展現 iWave 致力於為開發人員提供高效能、高能源效率、超低延遲的 AI 推論解決方案的承諾。此平台建置於 iW-RainboW-G57D 系統模組，可加速複雜的 AI 工作負載，例如即時目標偵測，以便在資料產生處的附近提供邊緣智慧。

Vitis AI：將 FPGA 加速帶至 AI 工作負載

Vitis AI 是 AMD 的統一 AI 推論軟體堆疊，專為 FPGA 架構硬體平台所設計，包含 Versal Adaptive SoC。無需進行重大重工，即可將為 GPU 訓練的 AI 模型無縫轉移到 FPGA 架構。

Vitis AI 支援 TensorFlow、PyTorch、ONNX、Caffe 等常見的深度學習框架，能讓開發人員在硬體上以高效率部署經良好訓練的神經網路，達到最佳化並行作業和低功耗。

可形成一個 AI 加速管道，結合 FPGA 的靈活性與專用神經加速器的效能，非常適合邊緣應用，符合其對延遲的嚴格要求。

系統概覽和示範設置

直播展示在 iWave 的 VE2302 Versal AI Edge 評估套件上執行的 Vitis AI NPU，展現其即時目標偵測能力。

示範組件：

• iWave VE2302 Versal AI 邊緣開發套件
• HDMI 顯示器
• 用於即時視訊輸入的 USB 網路攝影機
• 12 V/5 A 電源供應器和偵錯纜線

人工智慧推論的資料流處理過程

iW-RainboW-G57D 上的 AI 推論工作流程利用 VART X API 模組，並針對即時處理經過結構化。建立一個腳本，在系統模組上執行 NPU 應用。此腳本使用 USB 攝影機擷取視訊，並將其轉換為 NV12 格式。轉換後的影片接著由 NPU 處理，偵測到的物體會在 HDMI 顯示器上標注顯示。

資料流處理流程：

實際示範

體驗 VE2302 Versal AI Edge SoM 的即時目標偵測！觀看示範：iWave 專家將展示如何使用 NPU IP 進行 AI 推論，達到精準且高效率的目標偵測。

選擇 Versal AI Edge 進行邊緣 AI 的優勢

AMD 的 Versal AI Edge 系列將可編程邏輯、AI 引擎、異質處理系統納入單一晶片中。此架構能夠在單一平台上進行感測器融合、視覺分析、人工智慧推論，同時維持確定的即時控制。

關鍵特點：

• 用於視覺、雷達、光達工作負載的人工智慧引擎和數位訊號處理引擎
• 原生 MIPI 支援，最高可達 8 MP 解析度
• 支援各種人工智慧和訊號處理任務的單精密度和半精密度浮點運算

AI 運算與可編程邏輯的結合，為各種邊緣 AI 使用案例 (從機器人到工業自動化) 提供可擴展的基礎。

iWave 的 Versal AI Edge 系統模組的特點

• 相容於 VE2302 / VE2202 / VE2102 / VE2002 裝置
• 雙核心 Arm Cortex-A72 和 Cortex-R5F 處理器
• 高達 328K 邏輯單元和 150K 查找表 (LUT)。
• 8 個 GTYP 收發器，速率為 32 Gbps
• 高達 8 GB LPDDR4 RAM 和 128 GB eMMC 儲存
• 用於擴充的雙 240 引腳高速連接器
• 連接性：PCIe Gen4、乙太網路、USB 3.0

此系統模組尺寸小巧但堅固，支援 40G 乙太網路、MIPI 攝影機介面、122 個可配置 I/O，確保無縫整合到要求高速資料傳輸和即時推論的邊緣 AI 系統中。

實際應用

iWave Versal AI Edge SoM 上的 Vitis AI NPU 為許多產業開啟新商機：

• 智慧監控：物體和人臉即時識別，達到智慧監控
• 汽車與 ADAS：高速偵測交通標誌與行人
• 工業自動化：用於缺陷偵測和預測性維護的裝置端分析
• 醫療保健：人工智慧驅動的診斷造影和患者監測
• 智慧零售：自動化結帳與客戶分析
• 智慧城市：利用即時視訊分析，進行自適應交通管理

此解決方案將高傳輸量 AI 處理與能源效率相結合，在重視毫秒級精密度的環境中提供精準的即時效能。

利用邊緣人工智慧工具為開發人員賦能

iWave 提供完整的軟體工具、函式庫、板支援套件 (BSP)，以簡化 Versal 平台上的 AI 開發週期。支援 Vitis AI、OpenCV、Linux 架構開發，工程師可以更快速部署、測試、最佳化 AI 工作負載。

iWave 提供完整文件、長期供貨 (十年以上) 和 ODM 設計服務，確保客戶能夠充滿信心地從原型擴展到生產。

iWave Global 是值得信賴的工程解決方案供應商，專為工業、汽車、醫療、國防市場提供 FPGA 架構系統模組 (SoM) 和 ODM 設計服務。憑藉數十年的嵌入式技術專業，iWave 以可靠、可擴展、高效能的硬體平台，達到邊緣創新。

若要瞭解 Versal AI Edge SoM 如何助您促成新一代 AI 創新，請造訪 www.iwave-global.com 或聯絡 mktg@iwave-global.com