半導體創新如何使邊緣 AI 成為未來

處理器和軟體的創新使邊緣智能變得更簡單、更容易獲得,並且更能廣泛實作

9月 29, 2023

現在是早上 6 點 42 分,您的鬧鐘響了。您會感到有得到充分休息,因為床頭櫃上的睡眠週期監視器 (由內建邊緣人工智慧 (AI) 和雷達技術支援) 透過監測您的心率和呼吸來協助最佳化精準的起床時間。

當您前往廚房時,智慧型冰箱會使用攝影系統掃描冰箱的內容物,並根據您的飲食限制資料和偏好提出建議,進而協助您決定午餐要吃什麼。

該前往辦公室時,您無需觸摸任何東西即可存取和啟動您的汽車。車外的攝影機會在辨識出您之後自動解鎖您的汽車,並根據您的偏好預設溫度、座椅調整和音樂音量。

這個未來離現在並不遠,因為實現這個未來的技術已經存在了。邊緣 AI、低功率微處理器和簡易的軟體均可助其夢想成真,雖未與同樣值得關注的生成式 AI 和雲端運算一樣造成轟動,但它們有潛力塑造我們每日與科技互動的方式,並以我們從未思考過的方式改善我們的生活。

什麼是邊緣 AI

當工程師提到「邊緣」時,其實並不是在描述某個遙遠、抽象的地方。邊緣存在於我們的住家、辦公室和工廠中。邊緣是擷取和運算資料的本機環境或裝置,例如機器人或智慧居家裝置。邊緣 AI 是指能夠在裝置上啟用即時智慧及回應該裝置的能力,而不必將資料從區域網路傳送到雲端。

與雲端 AI 資源相比,在邊緣啟用這種水準的智慧可釋放電子產品的潛力,以更快速且更安全地回應環境,這對於從汽車到醫療應用和個人電子產品等每個產業都造成了影響。例如,整個工廠的攝影機持續檢查設備,以偵測和預測須在必要時立即停止組裝製程的機械故障。

產品線經理 Artem Aginskiy 表示:「AI 是指可靠、安全的真正快速圖形辨識。如果您啟用邊緣 AI,任何東西都不需要離開裝置,因此非常隱私。」

由於邊緣 AI 會預測並回應本機環境 (無需將其傳輸到雲端),因降低資料遭洩露的風險,例如睡眠監測範例中的健康狀態資訊。

邊緣 AI 嵌入式處理器

直到最近,人工智慧還要求許多組織都缺乏的專業技能和經驗,這使得人工智慧似乎遙不可及。儘管如此,隨著 AI 的變革性影響日益明顯,幾乎來自各種規模公司的產業,都在尋求將人工智慧整合到產品中的方法。嵌入式處理器和軟體的創新使邊緣 AI 變得更容易獲得,並且更能廣泛實作。

邊緣 AI 依賴能夠在收集資料的地方執行 AI 演算法的嵌入式處理器。但在能源效率和成本方面需要有所取捨。掃地機器人和門鈴等電池供電系統,都需要成本最佳化的處理器,以最大限度減少能源消耗的同時,提供最佳性能。

工廠自動化、專業監控或機器人等高性能系統,都要求更高的處理性能,但成本和能源消耗仍然是影響因素。

晶片設計的進步,如硬體加速器低功率 Arm® Cortex® 架構微處理器的整合,正在以更實惠的價格實現邊緣 AI 所需的性能、速度和能源效率。透過降低邊緣 AI 系統的系統成本和功耗,設計人員可以將先進的 AI 功能導入更多應用,協助人們充分利用我們的電子產品及其產生的資料。

「低程式碼」軟體開發工具

除了半導體創新之外,使用方便的新型邊緣 AI 軟體開發工具正在減少建立、訓練和部署 AI 模型時對編程專業知識的需求。這些工具協助設計師將智慧導入其應用領域,無需深入的編碼專業知識即可做到,而這在過去是邊緣 AI 實作的主要障礙。

像 TI 的 Edge AI Studio 這類工具會提供一種「低程式碼」體驗,讓設計師能在不撰寫程式碼的情況下開發和測試 AI 模型,而是使用 GUI 型工具將人工智慧前景擴展到非專家。設計師可以建置神經網路或 AI 演算法,充當裝置的智慧和「大腦」,無需專業知識或技能。

Artem 說道:「德州儀器正在使 AI 民主化,讓全世界的任何一位開發人員都可以開發智慧型系統。您可以使用該工具來訓練和部署 AI 模型,連一行程式碼都不用撰寫。」

透過讓邊緣 AI 變得更容易獲得,各地的電子產品將變得更智慧、更安全、更有成效且更可靠,以我們從未想過的新方式影響我們的生活。