welcom ! Handel home

2024年11月28日 星期四

[AI 邊緣運算NOTE] 基本計算區分 CPU, GPU, NPU, TPU

 

Edge AI 發展下的

CPU, GPU, NPU, TPU 

其實 GPU、NPU、TPU 都是專用處理器,只是其擅長處理的任務並不相同,做為專用處理器,在一定程度都可以降低 CPU 工作負擔,使 CPU 的資源可進行其他運算。因此用戶需要哪個是根據使用者的應用與任務所決定。

CPU (Central Processing Unit),中央處理器

其核心數量較少,專為通用計算而設計。CPU 在 NAS 當中也可以視為 NAS 的核心大腦,負責執行作業系統跟應用程式所需的命令與程序,因此 NAS 系統跟應用程式的速度都與 CPU 效能有關。

GPU (Graphics Processing Unit)  ,圖形處理器

為專門執行繪圖運算工作的微處理器,結構上GPU 由於具有數百或數千個計算單元(ALU),可並列執行大量計算可被分為嵌入式繪圖晶片與獨立顯示卡兩種。

GPU 除了常聽說的對於玩 3D 遊戲的彩圖計算有幫助以外, 對執行分析、深度學習和機器學習演算法尤其有用,用途並不限於圖像計算。

NPU(Neural network Processing Unit) 神經處理單元

NPU 是專為加速 AI 應用而設計,透過類似於人類的神經系統的處理器,因具備節能的特性, 可滿足長時間的使用,適合持續處理 AI 運算任務,例如圖片生成、人臉辨識等。

TPU (Tensor Processing Unit),張量處理器

TPU 是 Google 開發專門用於加速機器學習的處理器,與 GPU 相比,TPU 被設計並運用於大量的低精度計算。Google 於研究表明在使用神經網路推斷的 AI 運算任務中,TPU 的效能是當代 GPU 和 CPU 的 15 到 30 倍,但是生產的廠商少,市場供不應求,因此價格昂貴。

#當MCU  IC 加入 NPU or TPU 周邊 可以燒錄 訓練參數 將大幅提升 應用的功能

>>應用於影像處理 可輸出結果 給MCU 做控制參考

>>聲音處理 

>>感測信號處理

這些應用當於 PC 建立大量的 工具 來建置及驗證  可以提升應用的效率


沒有留言: