恩智浦敢為人先,敢于引領和創(chuàng)新。恩智浦一直致力于支持i.MX應用處理器的攝像頭模塊接口。恩智浦還實現(xiàn)了CPU、GPU等多個SOC共享資源的機器學習。該功能仍然運行良好(根據(jù)應用程序的需要而異),本文將解釋為什么恩智浦決定升級它,并在i.MX8MPlus中添加圖像信號處理器(ISP)和機器學習(ML)加速器。
機器學習的重要性與日俱增。
云機器學習是支持人們使用智能手機語音助手或智能揚聲器語音助手的關鍵技術。它還支持社交媒體甚至手機分組包含特定人員的照片。但這些用例都依賴于運行在云服務器上的機器學習。
真正的挑戰(zhàn)是邊緣機器學習。I.MX8MPlus等邊緣處理器本地運行所有機器學習推理。ML推理在邊緣運行意味著,即使網(wǎng)絡訪問中斷,應用程序也可以繼續(xù)運行——這對于監(jiān)控或異常檢測等應用程序非常重要,在沒有網(wǎng)絡訪問的偏遠地區(qū)運行也非常重要。ML推理在邊緣運行也減少了決策延遲,而不是必須將數(shù)據(jù)發(fā)送到服務器進行處理并發(fā)回結果。例如,在實施工業(yè)工廠現(xiàn)場目視檢查時,低延遲非常重要,或者需要決定是接受還是拒絕掠過的產(chǎn)品。
邊緣機器學習的另一個關鍵優(yōu)勢是保護數(shù)據(jù)安全。收集的專有數(shù)據(jù)(如邊緣設備捕獲的員工、生產(chǎn)在邊緣處理并保存在本地。該系統(tǒng)不會將信息發(fā)送到云進行處理,只記錄和跟蹤云。企業(yè)的隱私不會受到損害,企業(yè)可以決定是否在云中共享信息。
邊緣機器學習需要多大程度?
現(xiàn)在,考慮到對邊緣機器學習的巨大需求,問題變成了機器學習需要多大程度。衡量機器學習加速器的一種方法是每秒運算次數(shù)(通常是8位整數(shù)相乘或累加),通常稱為TOPS(即每秒萬億次運算)。由于整體系統(tǒng)性能也受到許多其他因素的影響,TOPS是最常用的機器學習測量方法之一。
事實證明,在邊緣進行完整的語音識別(不僅僅是關鍵字識別)大約需要1-2個TOPS(這取決于算法。如果你想理解用戶想要表達的意思,而不僅僅是將語音轉換為文本,你需要更多的操作次數(shù))。目標檢測(使用Yolov3等算法)也需要大約2-3個TOPS。因此,機器學習加速(如i.MX8MPlus2.3TOPS)是此類應用的最佳選擇。
下一步:圖像信號處理器(ISP)
所有基于攝像頭的系統(tǒng)都具有ISP功能,盡管有時可以集成到攝像頭模塊或嵌入到應用程序處理器中,并可能隱藏用戶。ISP通常會增強各種類型的圖像,其主要目的是將原始圖像傳感器每像素輸出的單色重量轉換為系統(tǒng)其他部分更常用的RGB或YUV圖像。
當攝像頭輸入網(wǎng)絡或網(wǎng)絡攝像頭(通常通過以太網(wǎng)或USB連接到應用程序處理器)時,基于視覺的系統(tǒng)中沒有ISP的應用程序處理器運行良好。對于這些應用處理器保持一定的距離,甚至可以達到100米左右。相機本身內(nèi)置ISP和處理器,可以轉換圖像傳感器信息,編碼視頻流,然后通過網(wǎng)絡發(fā)送。
無ISP的應用處理器也適用于分辨率相對較低的攝像頭。在100萬像素或更低的分辨率下,圖像傳感器通常內(nèi)置ISP,可以將RGB或YUV圖像輸出到不需要ISP的應用處理器中。
但在大約200萬像素(1080p)或更高的分辨率下,大多數(shù)圖像傳感器依賴于系統(tǒng)中其他部件的ISP,而不是內(nèi)置ISP。它可能依賴于獨立的ISP芯片(可以運行,但會增加系統(tǒng)的功率和成本)或集成在應用程序處理器中的ISP。因此,恩智浦選擇使用i.MX8MPlus解決方案——提供高質(zhì)量的成像,特別是在200萬像素和更高分辨率的情況下,優(yōu)化成像解決方案。
在智能視覺系統(tǒng)的幫助下,智能工廠可以提高生產(chǎn)率、質(zhì)量和安全性。
促進智能邊緣設備的發(fā)展
綜上所述,i.MX8MPlus應用處理器集2.3TOPS機器學習加速器和ISP于一體,無論是智能建筑、智能城市還是工業(yè)物聯(lián)網(wǎng)應用,都將成為邊緣嵌入式視覺系統(tǒng)的關鍵組成部分。
在嵌入式ISP的幫助下,它可以創(chuàng)建一個高質(zhì)量的圖像優(yōu)化系統(tǒng),直接連接到本地圖像傳感器,甚至為更新的機器學習算法提供這些圖像數(shù)據(jù),都可以減輕本地機器學習加速器的負擔。
I.MX8MPlus架構是為機器學習和視覺系統(tǒng)而優(yōu)化的,邊緣設備設計師可以像恩智浦一樣敢于引領和創(chuàng)新。具有較強的機器學習能力,配合高清攝像頭系統(tǒng),能使設備看得更清晰、更遠。新的創(chuàng)新機遇不斷涌現(xiàn)在嵌入式領域。
I.MX8MPlus架構是為機器學習和視覺系統(tǒng)而優(yōu)化的,邊緣設備設計師可以像恩智浦一樣敢于引領和創(chuàng)新。具有較強的機器學習能力,配合高清攝像頭系統(tǒng),能使設備看得更清晰、更遠。新的創(chuàng)新機遇不斷涌現(xiàn)在嵌入式領域。