隨著科技技術(shù)與應(yīng)用需求不斷發(fā)展,Edge AI 也逐漸成為 AI 領(lǐng)域中的一個關(guān)鍵分支,但實際要落地仍有許多挑戰(zhàn)待解。研華研華科技產(chǎn)業(yè)雲(yún)暨影像科技事業(yè)群副總經(jīng)理鮑志偉在 AI EXPO 2024 的演講上便提到,除了關(guān)鍵的四大要素,生態(tài)系的建立與夥伴都是不可少的關(guān)鍵。
??
研華科技產(chǎn)業(yè)雲(yún)暨影像科技事業(yè)群副總經(jīng)理鮑志偉提到, Edge AI 將是下一波 AI 發(fā)展的趨勢,也是臺灣產(chǎn)業(yè)的機會。但是,AI 從技術(shù)到落地的過程中,需要考量到許多問題。根據(jù)他過去參與各類 Edge AI 專案的經(jīng)驗,Edge AI 雖然已經(jīng)出現(xiàn)很久,卻難以被規(guī)?;脑蚝芏?,光是選擇硬體的規(guī)格就是一個大問題,尤其是邊緣裝置的計算能力、散熱等細節(jié)都需要考量。其次,由於 Edge AI 講求大量部署,也就代表企業(yè)必須具有遠端管理能力,能將裝置串接在一起;再加上 AI 模型必須時時更新,還要穩(wěn)定提供服務(wù)而不間斷。
Edge AI 規(guī)模化四大要素:場域、平臺、協(xié)作與 AI 加速
在眾多的挑戰(zhàn)下,鮑志偉認為, Edge AI 躍升規(guī)?;兴拇笠?,包含場域、平臺、協(xié)作與 AI 加速。目前已知的邊緣運算應(yīng)用包含農(nóng)作物、玻璃瓶或金屬元件等不規(guī)則物件的檢測、可依照區(qū)域環(huán)境與氣候進行的無人化農(nóng)業(yè)灌溉,以及得來速系統(tǒng)。美國的得來速系統(tǒng)已有多數(shù)是 AI CahtBot,不僅可以對話,還能清楚辨識客戶的點單內(nèi)容,即使背景有噪音也能清楚辨識。
他認為, Edge AI 規(guī)?;年P(guān)鍵,在於產(chǎn)業(yè)先行者能率先採納相關(guān)應(yīng)用,並使得產(chǎn)業(yè)生態(tài)開始改變,才能促使其他企業(yè)跟進。例如場域部分不只是表面看來的工業(yè)場域、智慧城市如此簡單而已,必須有分階段的實施過程。首先是以政府為主所推動的產(chǎn)業(yè) AI 轉(zhuǎn)型,所產(chǎn)生的領(lǐng)頭效應(yīng),較為常見的場域如智慧交通,而鐵道邊坡落石預(yù)測就是目前的應(yīng)用。
第二個階段則是先進業(yè)者積極研發(fā)導(dǎo)入,取得先進優(yōu)勢;接下來造成其他業(yè)者不得不跟進所帶起的群起效應(yīng),在此同時,技術(shù)推進的速度也會越來越快。而第四個階段就是創(chuàng)新效應(yīng),各領(lǐng)域的開創(chuàng)應(yīng)用情境百花齊放。他認為目前的產(chǎn)業(yè)應(yīng)該在跟隨與創(chuàng)新效應(yīng)之間,預(yù)計在 2025 年將有大幅度的成長,因此,2024 年將是一個好的準備期。
鮑志偉認為,高效能、低耗電運算平臺的產(chǎn)生以及低延遲傳輸且僅耗費十分之一成本兩大技術(shù)的出現(xiàn),驅(qū)動 Edge AI 智能化的產(chǎn)生,並將帶領(lǐng)產(chǎn)業(yè)未來十年的發(fā)展。從Camera、開發(fā)套件、小系統(tǒng)、各垂直領(lǐng)域?qū)S?,?Edge AI 的Server等一系列的平臺系統(tǒng)都已經(jīng)準備並大量部署在在全球各場域中。
Edge AI 並不同於以往的 IPC 產(chǎn)業(yè),更著重在共同的協(xié)作。在協(xié)作的藍圖中,除了平臺的搭建,以及中介軟體(Middleware)的合作,更重要的就是如何建立整個系統(tǒng)的生態(tài)系。而研華也積極與主要的晶片公司合作,共同推出不同應(yīng)用效能的運算平臺;軟體方面的支援,以及技術(shù)的整合與協(xié)作,生態(tài)圈夥伴的數(shù)量也逐步增長。較為實際的應(yīng)用包括針對垂直應(yīng)用領(lǐng)域,整合 SDK、感測器,以及影片/圖像感測,提供一體化解決方案;或是針對區(qū)域性應(yīng)用,與獨立軟體廠商合作,提供整合的銷售解決方案等。
夥伴才是生態(tài)系最重要的關(guān)鍵那麼生成式 AI 是否能在 Edge AI 落地?鮑志偉表示,目前在韓國已有相關(guān)的交通場域應(yīng)用,不只是車流、車牌及交通狀況的辨識,透過生成式 AI 的幫助,可以在車禍當下即時產(chǎn)生交通事故報告,並提醒交通事故處理者進行處理。
鮑志偉說,在研華的整個 Edge AI 規(guī)?;乃{圖下,除了平臺、協(xié)作,以及整個產(chǎn)業(yè)中的部件,都已經(jīng)有明確的定義,但更重要的是,在整個生態(tài)系裡,最重要的還是要有夥伴的共同合作,才是實現(xiàn) AI 規(guī)?;P(guān)鍵要素。