隨著科技技術(shù)與應(yīng)用需求不斷發(fā)展,Edge AI 也逐漸成為 AI 領(lǐng)域中的一個(gè)關(guān)鍵分支,但實(shí)際要落地仍有許多挑戰(zhàn)待解。研華研華科技產(chǎn)業(yè)雲(yún)暨影像科技事業(yè)群副總經(jīng)理鮑志偉在 AI EXPO 2024 的演講上便提到,除了關(guān)鍵的四大要素,生態(tài)系的建立與夥伴都是不可少的關(guān)鍵。
??
研華科技產(chǎn)業(yè)雲(yún)暨影像科技事業(yè)群副總經(jīng)理鮑志偉提到, Edge AI 將是下一波 AI 發(fā)展的趨勢(shì),也是臺(tái)灣產(chǎn)業(yè)的機(jī)會(huì)。但是,AI 從技術(shù)到落地的過程中,需要考量到許多問題。根據(jù)他過去參與各類 Edge AI 專案的經(jīng)驗(yàn),Edge AI 雖然已經(jīng)出現(xiàn)很久,卻難以被規(guī)模化的原因很多,光是選擇硬體的規(guī)格就是一個(gè)大問題,尤其是邊緣裝置的計(jì)算能力、散熱等細(xì)節(jié)都需要考量。其次,由於 Edge AI 講求大量部署,也就代表企業(yè)必須具有遠(yuǎn)端管理能力,能將裝置串接在一起;再加上 AI 模型必須時(shí)時(shí)更新,還要穩(wěn)定提供服務(wù)而不間斷。
Edge AI 規(guī)?;拇笠兀簣?chǎng)域、平臺(tái)、協(xié)作與 AI 加速
在眾多的挑戰(zhàn)下,鮑志偉認(rèn)為, Edge AI 躍升規(guī)?;兴拇笠?,包含場(chǎng)域、平臺(tái)、協(xié)作與 AI 加速。目前已知的邊緣運(yùn)算應(yīng)用包含農(nóng)作物、玻璃瓶或金屬元件等不規(guī)則物件的檢測(cè)、可依照區(qū)域環(huán)境與氣候進(jìn)行的無人化農(nóng)業(yè)灌溉,以及得來速系統(tǒng)。美國的得來速系統(tǒng)已有多數(shù)是 AI CahtBot,不僅可以對(duì)話,還能清楚辨識(shí)客戶的點(diǎn)單內(nèi)容,即使背景有噪音也能清楚辨識(shí)。
他認(rèn)為, Edge AI 規(guī)?;年P(guān)鍵,在於產(chǎn)業(yè)先行者能率先採納相關(guān)應(yīng)用,並使得產(chǎn)業(yè)生態(tài)開始改變,才能促使其他企業(yè)跟進(jìn)。例如場(chǎng)域部分不只是表面看來的工業(yè)場(chǎng)域、智慧城市如此簡單而已,必須有分階段的實(shí)施過程。首先是以政府為主所推動(dòng)的產(chǎn)業(yè) AI 轉(zhuǎn)型,所產(chǎn)生的領(lǐng)頭效應(yīng),較為常見的場(chǎng)域如智慧交通,而鐵道邊坡落石預(yù)測(cè)就是目前的應(yīng)用。
第二個(gè)階段則是先進(jìn)業(yè)者積極研發(fā)導(dǎo)入,取得先進(jìn)優(yōu)勢(shì);接下來造成其他業(yè)者不得不跟進(jìn)所帶起的群起效應(yīng),在此同時(shí),技術(shù)推進(jìn)的速度也會(huì)越來越快。而第四個(gè)階段就是創(chuàng)新效應(yīng),各領(lǐng)域的開創(chuàng)應(yīng)用情境百花齊放。他認(rèn)為目前的產(chǎn)業(yè)應(yīng)該在跟隨與創(chuàng)新效應(yīng)之間,預(yù)計(jì)在 2025 年將有大幅度的成長,因此,2024 年將是一個(gè)好的準(zhǔn)備期。
鮑志偉認(rèn)為,高效能、低耗電運(yùn)算平臺(tái)的產(chǎn)生以及低延遲傳輸且僅耗費(fèi)十分之一成本兩大技術(shù)的出現(xiàn),驅(qū)動(dòng) Edge AI 智能化的產(chǎn)生,並將帶領(lǐng)產(chǎn)業(yè)未來十年的發(fā)展。從Camera、開發(fā)套件、小系統(tǒng)、各垂直領(lǐng)域?qū)S茫?Edge AI 的Server等一系列的平臺(tái)系統(tǒng)都已經(jīng)準(zhǔn)備並大量部署在在全球各場(chǎng)域中。
Edge AI 並不同於以往的 IPC 產(chǎn)業(yè),更著重在共同的協(xié)作。在協(xié)作的藍(lán)圖中,除了平臺(tái)的搭建,以及中介軟體(Middleware)的合作,更重要的就是如何建立整個(gè)系統(tǒng)的生態(tài)系。而研華也積極與主要的晶片公司合作,共同推出不同應(yīng)用效能的運(yùn)算平臺(tái);軟體方面的支援,以及技術(shù)的整合與協(xié)作,生態(tài)圈夥伴的數(shù)量也逐步增長。較為實(shí)際的應(yīng)用包括針對(duì)垂直應(yīng)用領(lǐng)域,整合 SDK、感測(cè)器,以及影片/圖像感測(cè),提供一體化解決方案;或是針對(duì)區(qū)域性應(yīng)用,與獨(dú)立軟體廠商合作,提供整合的銷售解決方案等。
夥伴才是生態(tài)系最重要的關(guān)鍵那麼生成式 AI 是否能在 Edge AI 落地?鮑志偉表示,目前在韓國已有相關(guān)的交通場(chǎng)域應(yīng)用,不只是車流、車牌及交通狀況的辨識(shí),透過生成式 AI 的幫助,可以在車禍當(dāng)下即時(shí)產(chǎn)生交通事故報(bào)告,並提醒交通事故處理者進(jìn)行處理。
鮑志偉說,在研華的整個(gè) Edge AI 規(guī)模化的藍(lán)圖下,除了平臺(tái)、協(xié)作,以及整個(gè)產(chǎn)業(yè)中的部件,都已經(jīng)有明確的定義,但更重要的是,在整個(gè)生態(tài)系裡,最重要的還是要有夥伴的共同合作,才是實(shí)現(xiàn) AI 規(guī)?;P(guān)鍵要素。