在AI人工智慧應用中,若所有資料都要回傳到雲端中心,計算之後再傳回終端的話,一定會有「網路延遲」產生,而這些延遲可能會對人類安全與生命財產造成嚴重威脅,比方說,自駕車偵測系統若識別前方的物件,先經由網路送至雲端再傳回結果,可能就會因延遲而造成不可挽回的意外事故;再者有些工廠的環境可能網路不穩定或者企業基於網路資安等問題而
邊緣運算的概念正因此而生,不透過網路將資料傳送到雲端進行推論(Inference),而是在本機端直接進行推論,加快現場即時反應,讓AI的使用場域更加全面且便利。然而在邊緣進行AI運算,會面臨到本機運算能力及記憶體容量限制等因素,因此也會有一些需要克服的難題,因此本課程先從技術架構、模型優化方法說明並搭配Raspberry Pi 結合Intel NCS2 神經網路加速棒,配合OpenVINO程式碼實作,以實現邊緣運算的應用。
資深講師先幫你打好原理底子,搭配實際操作更有感!
- 學會以OpenVINO(Open Visual Inference and Neural network Optimization)進行AI模型的格式轉換,進而能將AI模型部署在邊緣裝置上。
- 學會AI軟硬整合,實現邊緣運算之影像辨識應用
- 學會AI軟硬整合,實現邊緣運算之影像辨識應用(如人臉辨識與動態影像識別等)。
- 傳承業師實務開發經驗,提高學習者的AI邊緣運算應用之開效率。
- 投影片講授及配合程式進行演練
- 課程會使用 + Spyder
- 課程總時數:8小時
- 觀看天數:30天
- 精編教材:-精編講義、範例程式碼
-詳細Code 解說且程式範例檔案分類整理
-線上助教系統
1. 邊緣運算
- 技術簡介
- 邊緣運算的開發架構
- 模型優化的概念
2. OpenVINO邊緣運算實務
- Intel NCS2 神經網路加速棒簡介
- OpenVINO Toolkit 架構說明
- 由Keras (.h5)模型轉成IR (.xml & .bin)檔案
- Raspberry Pi 安裝OpenVINO
- 建立OpenVINO應用程式- 程式架構與CMAKE說明
- 專案: WebCam串流人臉偵測
3. 基本Raspberry Pi 使用入門
【精彩片段1】
【精彩片段2】
【精彩片段3】
*提供之教材套件包不含Intel® Movidius™ Neural Compute Stick,學員可於報名時選擇加購與否。 (講師將示範使用步驟,無神經計算棒不影響課程進行)
*學員須自備 USB Webcam
- 已學過AI,但想進一步學習如何將AI演算法轉換成實際應用之工程師。
- 對於AI演算法大致理解,但想學習如何將本機端的AI模型部署到終端硬體之工程師
- 欲進行邊緣運算開發之專案,想學習各階段開發技巧,縮短自我摸索時間之工程師
- 學習背景:
1.有基礎機器學習/深度學習知識者佳
2.有Python 程式設計基礎者者佳
3.會基礎Raspberry Pi/ Linux使用者佳 (針對AI邊緣運算使用Raspberry Pi 時)
Joseph老師
▶ 台灣大學電機工程系博士研究
▶ 上市網通科技公司/資深軟體工程師
▶ 嵌入式Linux系統 / ARM Boot Loader / 資料結構及演算法 / PCB Layout / MCU 韌體設計 / Linux 驅動程式 / Linux系統程式 / 網路通訊協定 / 機器學習 / 深度學習 / 電腦視覺開發
手寫數字辨識[手寫辨識]
✔ 使用NCS2 + OpenVINO SDK
✔ 數字辨識pre-trained model載入
✔ 智能即時手寫數字辨識系統實現