環旭電子 | 鎖定邊緣運算領域，搶攻 ChatGPT AI商機

01/16/2023

鎖定邊緣運算領域，搶攻 AI 商機

「ChatGPT」可說是近幾個月來，最熱門的科技話題。人工智慧 (AI) 簡化並減輕了人類在所有技術領域的負擔，讓每一步決策都變得更加聰明。目前有好幾種不同的工具和策略可用來強化這一項技術，並省下不少時間。只要透過向存放裝置喂入資訊，AI 即能開始進行機器學習，並持續的優化，進而滿足各種任務的嚴格要求。AI系統可以更快速應對當前出現的挑戰，以及未來系統可能擴充的需求。

「存儲伺服器」是指用於保存和管理資料、檔和服務的特定伺服器，即是一種為了在公共網路或互聯網上存儲和訪問海量資料而專門創建的伺服器。「資料伺服器」則是提供資料處理、存儲和資訊保護等服務的軟體或平臺，供其他軟體、元件或程式加以利用。此外，「資料存儲」是以磁性、光學或物理等介質，記錄和保存數位資訊以供現在或未來使用。

關於「邊緣」的實際定義？

邊緣應用包括任何分散式應用，整個具體的處理過程是在伺服器以外完成，即使資料最終被發送到資料中心。它的核心概念是避免將所有資料，通過互聯網發送到伺服器上進行處理，而是在鄰近資料來源的地方先進行處理，從而避免長時間資料往返帶來的延遲問題，實現更即時的快速反應。

關於邊緣 AI

毋庸置疑，邊緣 AI 就是將邊緣計算與人工智慧相結合。被稱為邊緣設備或邊緣計算的嵌入式系統是數位世界與物理世界之間的重要橋樑。它們通常配有許多感測器，用來收集周邊環境的資料。
邊緣 AI 系統中所使用的機器學習技術可在現行的 CPU 上運行，甚至可以在功能普通的微控制器（MCU）中也能照跑不誤。相較于其他搭載高效 AI 設備的應用產品，邊緣 AI 能夠以更低的功耗實現更高的性能。同時，邊緣計算是在物聯網裝置或邊緣設備上直接處理資料和資訊，也因為邊緣計算在例如即時分析、降低延遲、提高速度等方面的固有優勢，因此發展突飛猛進。
邊緣計算是一種組網計算模式，它能夠將計算和資料存儲先暫存于資訊來源附近的位置。無論設備是否有互聯網連接，設備上所生成的資料都由人工智慧演算法進行處理。正因如此，可以快速完成資料處理，提供即時回饋。
根據伺服器到終端或資料來源的距離，「邊緣系統」可以大致劃分為兩種類型。靠近資料中心的應用（甚至可能在同一棟建築內），都劃分為近邊緣。而諸如無人駕駛汽車等處於相異地點的應用，則可歸類為遠邊緣。這兩種邊緣系統的相同之處，在於同樣都是先處理及運算資料，再送回伺服器或資料中心。

邊緣 AI所使用的「硬體與軟體」？

邊緣 AI 可在各種硬體中運行，包括基本的 MCU 和最先進的神經處理單元(NPU)。而伺服器所使用的邊緣 AI 軟體，多數都整合了機器學習演算法，此概念是為了能在設備上運行 AI 演算法。由於邊緣 AI 軟體不依賴其他系統，也不依賴通過互聯網連接，因此使用者可以即時取得所需要的資料。連接至邊緣 AI 的設備使用嵌入式演算法來追蹤設備行為、收集和解析行為資料。這些設備也藉此做出決策，自動解決問題，並預先判斷接下來的使用行為，給出相對應的資訊。

邊緣 AI 的優勢

設備相容性高：邊緣 AI 通常需要進行大量的資料處理。在此過程中，邊緣運算不需要將資料上傳雲端，就能同時處理來自眾多來源的視頻圖片資料。
低延遲：從雲端傳輸資料會造成一定的時間延遲。邊緣 AI 能夠通過在設備中完成資料處理的方式降低延遲。
更為可靠：由於更快的速度以及更嚴格的安全標準，相較于傳統的運算系統，邊緣 AI 系統的可靠性也更加出色。

比傳統的運算系統更快、更小、更智慧

歸功於邊緣 AI 的強大功能，我們的日常任務和工作變得更加輕鬆。邊緣設備的快速處理能力將為一切提供動力，包括遠端工作和通勤。邊緣計算將推動新興技術及其帶來的沉浸式體驗的快速發展。近期，USI 環旭電子協助品牌客戶推出了最先進的邊緣 AI 計算伺服器，支援戶外電信箱、電腦房、工廠、商店等眾多應用場景。

這是一款 2U 機架式邊緣 AI 伺服器，採用 Intel 第三代 Xeon Platinum 處理器，配備四路單槽寬或兩路雙槽寬NVIDIA GPU，具備小巧機身適合緊湊空間，且安靜、堅固、防塵、防震。USI 提供了全套的架構和概念設計，包括主機殼設計、硬體、固件設計（交換機固件，BIOS 和 BMC 固件）以及散熱設計。該產品符合比標準更嚴格的 NEBS 電信法規，可確保伺服器在不同的惡劣工作環境中能夠平穩運行。

邊緣計算提供了更有效率的替代方案，在更接近資料產生位置的地方處理及分析資料，因而能夠大幅減少延遲。具有更快的回應時間，因此相較于傳統中心式計算架構，具備更好的發展前景和推廣潛力。未來，USI 環旭電子將繼續以高效的設計、生產、測試驗證一體化服務，深耕伺服器存儲市場。