銀行如何提供超級個人化服務?百人數據團隊靠AI打造中信腦
為了顧及全產品、全客群、全通路、全覆蓋,中國信託採取的對策是走入AI與大數據,更為發展AI應用訂下3大KPI,來掌握研發資源的最適化;今年,中信更成立數據治理委員會,希望將數據治理走向更全行化的關鍵議題
文/李靜宜 | 2021-06-10發表
「透過科技力,來創造競爭力。」中國信託銀行數據暨科技研發處處長王俊權,用一句話點出中國信託大力發展AI與大數據的戰略核心。
3年多前,中國信託定調以AI與大數據作為主要發展方向,並成立了數據研發中心,要用AI來加值業務場景的服務與產品。設立初期僅有一人,到現在已擴大為百人團隊,更在2020年初正式提升為數據暨科技研發處。王俊權正是該團隊的一號員工,更是中國信託內部大力推動AI與大數據的關鍵人物。
中國信託的經營策略是,顧及全產品、全客群、全通路、全覆蓋。而為了守住既有的優勢,中信採取的對策是走入AI與大數據,來作為轉型的利器。不只要轉型,王俊權表示,中信更希望透過AI與大數據,孵化出不同於以往的經營模式。
「CTBC+AI」是中國信託發展AI的大方向,在各業務線上,都能將既有的經營方法加上AI,來提升效率與效能,更要以這樣的科技力創造競爭力。更以優化、平臺、全面、轉型、顛覆這5大階段任務,往下推動AI。
王俊權解釋,中信的策略是,從最小且最有把握的項目開始,所以,透過AI來優化既有的經營方式,是中信切入AI的第一項任務。運用AI優化的專案成功後,下一步,中信就能將AI技術進一步平臺化;有了平臺之後,就能將AI技術全面導入到銀行。
走過了優化階段、平臺階段到全面發展階段,AI已經落地到中信的金融場景,也陸續有了一些階段性成果。王俊權表示,中信現在聚焦「轉型」與「顛覆」,希望透過AI幫助組織轉型,最終期待是要用AI提出顛覆的想法,創造新的經營模式,他透露,目前已有幾個專案正在進行中。
依循著CTBC+AI這項大主軸,中國信託打造了「中信腦」,定調3條研發路線: 電腦視覺、自然語言處理(NLP)、機器思考,也成立了3大實驗室,聚焦研發6大AI應用核心,包括了精準行銷、市場預測引擎、文字與文件辨識應用、人臉與物件辨識應用、機器閱讀到機器對話。從應用場景來看,則鎖定營銷經營、流程優化、風險控管這3項。累計至今,中信在業務單位落地的AI專案超過了20個。
第一類應用場景的AI,中信稱為「營銷經營+AI」,囊括個人化推薦、需求預測,目的是協助增加收益,並提升客戶滿意度、客戶資產、新申購產品數等。王俊權提到,像是推薦引擎專案,中信金控整體客戶數有1,100多萬戶,產品與通路又多,需要透過AI推薦引擎來實現精準行銷,預測顧客未來的金融需求,才能進一步推薦。中信也將這類預測技術,應用到金融商品的預測,比如房價預測、股市預測、匯率預測等。
「流程優化+AI」則是中信第二大類應用場景,包含法金作業流程、客戶申請流程、線上作業流程,希望用來協助內部提升作業效率,來減少作業成本,最終目的也同樣要能夠提升客戶滿意度。 目前,中信內部有多項端對端的流程數位化專案,像是個金、法金、AML(反洗錢)、HR等業務,都有導入AI來優化既有流程。
最後一類場景的應用是「風險控管+AI」,則應用在AML作業、偽冒偵測、稽核,來改善內部作業效率,減少風險的損失。比如,王俊權提到,前年底,中信銀行上線了一套用自然語言處理技術分析負面新聞的平臺,這個AI反洗錢專案的成果,後來更從臺灣擴大應用到7個國家的海外分行。
王俊權表示,3大實驗室所負責的6大AI核心,就是沿著這3大類應用分頭進行,其中,因為銀行面對數位化的壓力較大,所以,又以銀行為應用主力,再逐漸將AI技術擴大到金控旗下子公司,如投信、台灣人壽、中國信託資融等。
自行培養AI研發能力,更訂定3大AI管理KPI
AI發展策略上,中國信託除了自主研發,也會與廠商協作。不過,這兩種策略該如何拿捏,中信內部也走過一段辯論的路。王俊權表示,最後的判斷依據是,「金融業需要的核心能力,中信會投入有限的研發資源。若不是中信認為的核心能力,則盡可能用市場上的解決方案,來加快回應市場的時間。」
舉例來說,銀行業使用分析模型並非新鮮事,AI技術與傳統統計回歸最大的不同是,能夠處理大量非結構數據,像是人臉、電文等資料,可是,這些數據機敏性較高,如果銀行不能自行掌握技術,而需委外,王俊權認為,第一個問題就是,銀行創新的保密性較弱,再者,廠商進入銀行接觸到如此多的機密性資料,有時也有法遵問題。
尤其,金融業對個資的管制嚴格,非結構化資料很難離開金融業,但是,在臺灣,許多AI技術原廠來自海外,對於銀行來說,整體應用或導入的彈性都相對較低,這些都是中國信託選擇培養自家AI研發能量的關鍵因素。
中信在AI應用發展策略,更訂出3大關鍵績效指摽(KPI),作為研發資源最適化的參考。王俊權表示:「對資源有限,需求無限的單位而言,研發的管理是一大關鍵。」首先,中信不會輕易增加AI生產線,因每開一條生產線就會涉及維運與資源分散的議題。所以,「AI生產線的管理」是第一項KPI。
「AI研發資源調度的管理」是第二項KPI。王俊權提到,資源有限狀況下,應該分配多少資源,投入短期的落地變現,還是長期的亮點顛覆,「是一種決策的藝術。」過去,中信希望AI可以迅速擴大到各單位,所以,王俊權採取80/20法則,將80%的資源用在短期落地變現,讓大家有感,保留20%在真正創新的研發。不過,他表示,這個比例每年或每季會進行調整,要讓研發資源投入到需要的地方。
第三項KPI則是「核心複用的比率」,也就是同一項核心技術盡可能重複利用的比率。王俊權要求研發團隊,每條AI生產線至少要有3個落地應用。目前,中國信託共有6條AI生產線,以及20幾個AI落地應用的專案,他提到:「平均每條AI生產線,有3~4個核心複用。」未來,更希望將每個AI核心,擴大到金控內各個應用,所以,要盡可能提升核心的複用,他對團隊的期待是,能提高到兩位數的複用率。
他進一步舉例,3年前,中信導入工研院智能文審技術,來辨識客戶申辦信用卡、貸款所需檢附的財力證明,像是存摺、扣繳憑單等金融常用的固定格式文件。去年,中信將文字辨識應用,複用到分行的場景,上線AI票券辨識服務,在審票機中加入AI、OCR技術來辨識支票,來減少櫃員人工審票與顧客等待的時間,及提升作業人員登打的產能。
目前,中信已做到一張支票上的7個要件,包括到期日、抬頭人、金額、禁止背書轉、發票章讓章或手寫、背書、帳號,都能夠用AI辨識。王俊權提到,中信將自行研發的印刷體的文字辨識核心、手寫英數的AI辨識核心、文印鑑辨識技術,通通導入支票辨識上,「這就是一種AI核心的複用」。此外,為了持續優化辨識正確率,中信更導入AI反饋機制,內部自己發展出標記功能,來改善標記效率,長期目標是達到9成的辨識正確率。今年,中信預計將該AI應用擴大到22家分行。
中信還有另一項AI核心應用是人臉與物件辨識應用,王俊權坦言:「人臉辨識技術,對於組織的轉型與顛覆是亮點有餘,可是力道不足。」不過,若能結合防偽能力及數位流程,可能會創造出藍海的新應用。中信正在思考,如何運用人臉辨識、活體辨識、微表情辨識、情緒辨識等AI核心,交錯組合來打造遠端核身相關應用。
金融業需緊跟科技的腳步,轉變為自身的競爭力,才能在指數型成長的趨勢下,站上領先地位。AI與大數據,正是下一波競爭力的最大利器。─── 中國信託銀行數據暨科技研發處處長 王俊權
推動超級個人化服務,中信靠大數據建立5大行銷策略
「中信銀行每個月有1.5億筆的金融數據,1.9億筆的非金融數據。更可觀的是,疫情期間,顧客更加喜歡使用數位服務,每月高達2億筆的顧客數位數據。」王俊權首度揭露了中信內部統計的海量數據。不只如此,中信銀行1年與顧客會有20億次的行銷溝通,顧客造訪行動銀行、網路銀行或到行銷網頁觀望的次數,更是高達16億次。
「中國信託的數據含金量很高,因此,全都要採集起來,作為銀行KYC的關鍵第一步。」他提到,光在2017年到2018年這段期間,中信內部就採集了大量數據,來建立360度客戶全景標籤。即便,當時各個單位已有自己的全景標籤,中信仍認為要有一個可以全行共用的主數據庫。
有數據來了解顧客,銀行就能出手,中信的策略是以數據掌握顧客人生不同階段需求,提供超級個人化服務。王俊權表示,中信策略是運用AI與大數據,透過個人化溝通方式,來提升顧客的成交機會。中信更先將這種作法,落地到銀行的「艱困區」,若在艱困區測試後有成效,再轉移到「黃金區」主戰場。「一方面不會影響到既有的業務動能,另一方面團隊也會比較有信心。」
在推動超級個人化服務,中信採取了5大行銷策略,並各自搭配合適的AI技術。第一項策略是使用最適合的通路對不同顧客溝通;第二項是尋找顧客有興趣的話題來互動,王俊權透露,今年底將從人工轉為全自動化,用AI生成銀行與顧客行銷的文案。
選擇對的時間,則是第三項策略,比如,當外幣跌到一定數值時,跟該名顧客歷史申購外幣的成本有競爭性,就能在此時發送推薦資訊給顧客。
第四項策略則是打造貼合顧客需求的產品,他提到,中信已有不同產品的預測模型,能預測未來3個月或1周後,該名顧客可能需要的產品。可供業務單位、EDM數位行銷,來聚焦其中高成交率的顧客。最後一項策略是對的活動,即便是賣同一項產品,不同活動的優惠或行銷設計都要不一樣。
王俊權認為,不僅不要過度叨擾顧客,更希望提供一次就能擊中顧客的服務。甚至,目標是做到自動化行銷,他透露,目前正在建置平臺的階段,除了要能自動採集數據,更要自動反應顧客下一步的預測,讓銀行出手可以更快,或盡可能減少PM或行銷出手時會遇上的人工斷點,甚至,讓每次出手後的反饋可以更為即時,來推動多波段行銷。
成立數據治理委員會,優先梳理2類數據
「數據治理是比下水道還要更下水道的底層工程。」特別對於大型金融機構來說,海量的數據勢必要有與過往不同的梳理方式,王俊權如此說著。
因此,今年中信銀行成立了數據治理委員會,由總經理親自主持,各個業務單位主管都參與,「希望將數據治理走向更全行化的關鍵議題。」他坦言,今年是試行階段,但中信已經注意到這個趨勢,而且必須往這方向走。
中信在數據治理特別強調「以用為治」,去年,更研究了全世界數據治理做得較好的企業,比如,數據治理發展超過20年的華為。王俊權坦言:「對中信而言,數據治理既然是一場長期抗戰,就必須明確為何而戰。」
由於資源有限,中信在數據治理的戰略,優先從兩類業務來推動,第一類是不能犯的錯,這類資料的處理一旦犯錯,銀行容忍度很低,如監理報送這類數據就需要優先梳理。另外一類是業務效益較大者,王俊權表示,若沒有好的數據治理標準,業務效益很難有長期的呈現。這是中信今年訂下數據治理的方向,也希望從小開始,慢慢擴大到全行。
經理人小檔案
王俊權
中國信託銀行數據暨科技研發處處長
學歷:臺灣大學國際企業研究所商學碩士
經歷:早年在美國矽谷的科技公司做美股分析,回臺後陸續待過4家銀行,主要負責風險管理;2005年加入中國信託銀行擔任全球個金風險管理處處長,2018年兼任數據研發中心最高主管;現為中信銀行數據暨科技研發處處長,兼任中信金控數據主管
附圖:中國信託銀行數據暨科技研發處處長 王俊權 (攝影/洪政偉)
資料來源:https://www.ithome.com.tw/people/144842?fbclid=IwAR0XaBPczoiqTWTEQH8qHfNDbmyyTpA43Akd2gYWhsBbh0oIbWsBNWdF4Fk
物件偵測模型比較 在 台灣物聯網實驗室 IOT Labs Facebook 的最讚貼文
迎接終端AI新時代:讓運算更靠近資料所在
作者 : Andrew Brown,Strategy Analytics
2021-03-03
資料/數據(data)成長的速度越來越快。據估計,人類目前每秒產出1.7Mb的資料。智慧與個人裝置如智慧型手機、平板電腦與穿戴式裝置不但快速成長,現在我們也真正目睹物聯網(IoT)的成長,未來連網的裝置數量將遠遠超越地球的人口。
這包括種類繁多的不同裝置,像是智慧感測器與致動器,它們可以監控從震動、語音到視覺等所有的東西,以及幾乎大家可以想像到的所有東西。這些裝置無所不在,從工廠所在位置到監控攝影機、智慧手錶、智慧家庭以及自主性越來越高的車輛。隨著我們企圖測量生活週遭數位世界中更多的事物,它們的數量將持續爆炸性成長。
資料爆量成長,讓許多企業把資料從內部部署運作移到雲端。儘管集中到雲端運算的性質,在成本與資源效率、彈性與便利性有它的優點,但也有一些缺點。由於運算與儲存在遠端進行,來自終端、也就是那些在網路最邊緣裝置的資料,需要從起始點經過網際網路或其他網路,來到集中式的資料中心(例如雲端),然後在這裡處理與儲存,最後再傳回給用戶。
對於一些傳統的應用,這種方式雖然還可以接受,但越來越多的使用場景就是無法承受終端與雲端之間,資訊被接力傳遞產生的延遲。我們必須即時做出決策,網路延遲要越小越好。基於這些原因,開始有人轉向終端運算;越來越多人轉而使用智慧終端,而去中心化的程度也越來越高。此外,在這些即時應用中產生的龐大資料量,意味著處理與智慧必須在本地以分散的方式進行。
與資料成長連袂而來的,是人工智慧與機器學習(ML)也朝終端移動,並且越來越朝終端本身移動。大量來自真實世界的資訊,需要用ML的方式來進行詮釋與採取行動。透過AI與ML,是以最小的延遲分析影像、動作、影片或數量龐大的資料,唯一可行且合乎成本效益的方式。運用AI與ML的演算法與應用將在邊緣運作,在未來還將會直接在終端裝置上進行。
資料正在帶動從集中化到分散化的轉變
隨著資訊科技市場逐漸發展與成熟,網路的設計以及在其運作的所有裝置,也都跟著進化。全盛時期從服務數千個小型客戶端的主機,一直到客戶端伺服器模型中使用的越來越本地化的個人電腦運算效能,基礎架構持續重組與最佳化,以便更貼近網路上的裝置以及符合運作應用的需求。這些需求包含檔案存取與資料儲存,以及資料處理的需求。
智慧型手機與其他行動裝置的爆炸性成長,加上物聯網的快速成長,促使我們需要為如何讓資產進行最佳的部署與安排進行評估。而影響這個評估的因素,包括網路的可用性、安全性、裝置的運算力,以及把資料從終端傳送到儲存設備的相關費用,近來也已轉向使用分散式的運算模型。
從邊緣到終端:AI與ML改變終端典範
在成本、資源效率、彈性與便利性等方面,雲端有它的優點,裝置數量的急遽增加(如圖2),將導致資料產出量大幅增加。這些資料大部份都相當複雜且非結構化的,這也是為何企業只會分析1%~12% 的資料的原因之一。把大量非結構化的資料送到雲端的費用相當高、容易形成瓶頸,而且從能源、頻寬與運算力角度來看,相當沒有效率。
在終端執行進階處理與分析的能力,可協助為關鍵應用降低延遲、減少對雲端的依賴,並且更好地管理物聯網產出的巨量資料。
終端AI:感測、推論與行動
在終端部署更多智慧的主要原因之一,是為了創造更大的敏捷性。終端裝置處於網路的最邊緣與資料產生的地方,可以更快與更準確地做出回應,同時免除不必要的資料傳輸、延遲與資料移動中的安全風險,可以節省費用。
處理能力與神經網路的重大進展,正協助帶動終端裝置的新能力,另一股驅動力則是對即時資訊、效率(傳送較少的資訊到雲端)、自動化與在多數情況下,對近乎即時回應的需求。這是一個三道步驟的程序:傳送資料、資料推論(例如依據機器學習辨識影像、聲音或動作),以及採取行動(如物件是披薩,冰箱的壓縮機發出正常範圍外的聲音,因此發出警告)。
感測
處理器、微控制器與感測器產生的資料量相當龐大。例如,自駕車每小時要搜集25GB的資料。智慧家庭裝置、智慧牙刷、健身追蹤器或智慧手錶持續進化,並且與以往相比,會搜集更多的資料。
它們搜集到的資料極具價值,但每次都從各個終端節點把資料推回給雲端,數量又會過多。因此必須在終端進行處理。倘若部份的作業負載能在終端本身進行,就可以大幅提升效率。
推論
終端搜集到的資料是非結構性的。當機器學習從資料擷取到關聯性時,就是在進行推論。這表示使用AI與ML工具來幫忙訓練裝置辨識物件。拜神經網路的進展之賜,機器學習工具越來越能訓練物件以高度的精準度辨識影像、聲音與動作,這對體積越來越小的裝置,極為關鍵。
例如,圖4顯示使用像ONNX、PyTorch、Caffe2、Arm NN或 Tensorflow Lite 等神經網路工具,訓練高效能的意法半導體(ST)微控制器(MCU),以轉換成最佳化的程式碼,讓MCU進行物件辨識(這個的情況辨識對象是影像、聲音或動作)。更高效能的MCU越來越常利用這些ML工具來辨識動作、音訊或影像,而且準確度相當高,而我們接下來馬上就要對此進行檢視。這些動作越來越頻繁地從邊緣,轉移到在終端運作的MCU本身。
行動
資料一旦完成感測與推論後,結果就是行動。這有可能是回饋簡單的回應(裝置是開啟或關閉),或針對應用情況進行最佳化(戴耳機的人正在移動中,因此會針對穩定度而非音質進行最佳化),或是回饋迴路(根據裝置訓練取得的機器學習,輸送帶若發出聲音,顯示它可能歪掉了)。物聯網裝置將會變得更複雜且更具智慧,因為這些能力提升後,運算力也會因此增加。在我們使用新的機器學習工具後,一些之前在雲端或終端完成的關鍵功能,將可以移到終端本身的內部進行。
終端 AI:千里之行始於足下
從智慧型手機到車輛,今日所有電子裝置的核心都是許多的處理器、微控制器與感測器。它們執行各種任務,從最簡單到最複雜,並需要各式各樣的能力。例如,應用處理器是高階處理器,它們是為行動運算、智慧型手機與伺服器設計;即時處理器是為例如硬碟控制、汽車動力傳動系統,與無線通訊的基頻控制使用的非常高效能的處理器,至於微控制器處理器的矽晶圓面積則小了許多,能源效率也高出很多,同時擁有特定的功能。
這意味著利用ML工具訓練如MCU等較不複雜元件來執行的動作,之前必須透過威力更強大的元件才能完成,但現在邊緣與雲端則是理想的場所。這將讓較小型的裝置以更低的延遲執行更多種類的功能,例如智慧手錶、健康追蹤器或健康照護監控等穿戴式裝置。
隨著更多功能在較小型的終端進行,這將可以省下資源,包括資料傳輸費用與能源費用,同時也會產生極大的環境衝擊,特別是考量到全球目前已有超過200億台連網裝置,以及超過2,500億顆MCU(根據Strategy Analytics統計數據)。
TinyML、MCU與人工智慧
根據Google的TesnsorFlow 技術主管、同時也是深度學習與TinyML領域的指標人物 Pete Warden 表示:「令人相當興奮的是,我還不知道我們將如何使用這些全新的裝置,特別是它們後面代表的科技是如此的吸引人,我無法想像那些即將出現的全新應用。」
微型機器學習(TinyML)的崛起,已經催化嵌入式系統與機器學習結合,而兩者傳統上大多是獨立運作的。TinyML 捨棄在雲端上運作複雜的機器學習模型,過程包含在終端裝置內與微控制器上運作經過最佳化的模式識別模型,耗電量只有數毫瓦。
物聯網環境中有數十億個微型裝置,可以為各個產業提供更多的洞察與效率,包括消費、醫療、汽車與工業。TinyML 獲得 Arm、Google、Qualcomm、Arduino等業者的支持,可望改變我們處理物聯網資料的方式。
受惠於TinyML,微控制器搭配AI已經開始增添各種傳統上威力更強大的元件才能執行的功能。這些功能包括語音辨識(例如自然語言處理)、影像處理(例如物件辨識與識別),以及動作(例如震動、溫度波動等)。啟用這些功能後,準確度與安全性更高,但電池的續航力卻不會打折扣,同時也考量到各種更微妙的應用。
儘管之前提到的雲端神經網路框架工具,是取用這個公用程式最常用的方法,但把AI函式庫整合進MCU,然後把本地的AI訓練與分析能力插入程式碼中也是可行的。這讓開發人員依據從感測器、麥克風與其他終端嵌入式裝置取得的訊號導出資料模式,然後從中建立模型,例如預測性維護能力。
如Arm Cortex-M55處理器與Ethos U55微神經處理器(microNPU),利用CMSIS-DSP與CMSIS-NN等常見API來簡化程式碼的轉移性,讓MCU與共同處理器緊密耦合以加速AI功能。透過推論工具在低成本的MCU上實現AI功能並符合嵌入式設計需求極為重要,原因是具有AI功能的MCU有機會在各種物聯網應用中轉變裝置的設計。
AI在較小型、低耗電與記憶體受限的裝置中可以協助的關鍵功能,我們可以把其精華歸納至我們簡稱為「3V」的三大領域:語音(Voice,如自然語言處理)、視覺(Vision,如影像處理)以及震動(Vibration,如處理來自多種感測器的資料,包括從加速計到溫度感測器,或是來自馬達的電氣訊號)。
終端智慧對「3V」至關重要
多數的物聯網應用聚焦在一些特定的領域:基本控制(開/關)、測量(狀態、溫度、流量、噪音與震動、濕度等)、資產的狀況(所在地點以及狀況如何?),以及安全性功能、自動化、預測性維護以及遠端遙控(詳見圖 6)。
Strategy Analytics的研究顯示,許多已經完成部署或將要部署的物聯網B2B應用,仍然只需要相對簡單的指令,如基本的開/關,以及對設備與環境狀態的監控。在消費性物聯網領域中,智慧音箱的語音控制AI已經出現爆炸性成長,成為智慧家庭指令的中樞,包括智慧插座、智慧照明、智慧攝影機、智慧門鈴,以及智慧恆溫器等。消費性裝置如藍牙耳機現在已經具備情境感知功能,可以依據地點與環境,在音質優先與穩定度優先之間自動切換。
如同我們檢視的結果,終端AI可以在「3V」核心領域提供價值,而它觸及的許多物聯網領域,遍及B2B與B2C的應用:
震動:包含來自多種感測器資料的處理,從加速計感測器到溫度感測器,或來自馬達的電氣訊號。
視覺:影像與影片辨識;分析與識別靜止影像或影片內物件的能力。
語音:包括自然語言處理(NLP)、瞭解人類口中說出與寫出的語言的能力,以及使用人類語言與人類交談的能力-自然語言產生(NLG)。
垂直市場中有多種可以實作AI技術的使用場景:
震動
可以用來把智慧帶進MCU中的終端AI的進展,有各式各樣的不同應用領域,對於成本與物聯網裝置與應用的效用,都會帶來衝擊。這包括我們在圖6中點出的數個關鍵物聯網應用領域,包括:
溫度監控;
壓力監控;
溼度監控;
物理動作,包括滑倒與跌倒偵測;
物質檢測(漏水、瓦斯漏氣等) ;
磁通量(如鄰近感測器與流量監控) ;
感測器融合(見圖7);
電場變化。
一如我們將在使用場景單元中檢視的,這些能力有許多可以應用在各種被普遍部署的物聯網應用中。
語音
語音是進化的產物,也是人類溝通非常有效率的方式。因此我們常常想要用語音來對機器下指令,也不令人意外;聲音檢測是持續成長的類別。語音啟動在智慧家庭應用中很常見,例如智慧音箱,而它也逐漸成為啟動智慧家庭裝置與智慧家電的語音中樞,如電視、遊戲主機與其他新的電器。
在工業環境中,供車床、銑床與磨床等電腦數值控制(CNC)機器使用的電腦語音引擎正方興未艾。iTSpeex的ATHENA4是第一批專為這些產品設計的語音啟動作業系統。這些產品往往因為安全原因,有離線語音處理的需求,因此終端 AI 語音發展在這裡也創造出有趣的機會。用戶可以指示機器執行特定的運作,並從機器手冊與工廠文件,立即取用資訊。
語音整合在車輛中也相當關鍵。OEM 代工廠商持續對車載娛樂系統中的語音辨識系統,進行大量投資。語音有潛力成為最安全的輸入模式,因為它可以讓駕駛的眼睛持續盯著道路,而雙手仍持續握著方向盤。
對於使用觸控螢幕或硬體控制器通常需要多道步驟的複雜任務,語音辨識系統特別能勝任。這些任務包括輸入文字簡訊、輸入目的地、播放特定歌曲或歌曲子集,以及選擇廣播電台頻道。其他的服務包含如拋錨服務(或bCall)與禮賓服務。
視覺
正如我們之前已經檢視過,終端 AI 提供視覺領域全新的機會,特別是與物件檢測及辨識相關。這可能包括觀察生產線的製造瑕疵,以及找出自動販賣機需要補貨的庫存。其他實例包括農業應用,例如依據大小與品質為農產品分級。
曳引機裝上機器視覺攝影機後,我們幾乎可以即時檢測出雜草。雜草冒出後,AI可以分類雜草並估算它對農產收穫的潛在威脅。這讓農民可以鎖定特定的雜草,並打造客製的除草解決方案。機器視覺然後可以檢測除草劑的效用,並找出農地中仍具抗藥性的殘餘雜草。
使用場景
預測性維護工具已經從擷取與比較震動的量測資料,進化到提出即時的資產監控。藉由連接物聯網感測器裝置與維護軟體,我們也可能做到遠端監控。
震動分析
這種類型的預測性維護在旋轉型機器密集的製造工廠裡,相當常見。震動分析可以揭露鬆脫、不平衡、錯位與軸承磨損等狀況。例如,把震動計量器接上靠近選煤廠離心泵浦內部承軸處,就可以讓工程師建立起正常震動範圍的基線。超出這個範圍的震動,可能顯示滾珠軸承出現鬆動,需要更換。
磁感測器融合
磁感測器利用磁性浮筒與一系列可以感應並與液體表面一起移動的感測器,測量液面的高低。所有的這些應用都使用一個固定面上的磁感測器,它與附近平面的磁鐵一起作動,與這個磁鐵相對應的感測器也會移動。
聲學分析(聲音)
與震動分析相似,聲測方位分析也是供潤滑技師使用,主要是專注在主動採取潤滑措施。這意味我們可以避免移動設備時產生的過度磨損,否則會為了修理造成代價高昂的停機。實際的例子可能包括測量輸送皮帶的承軸狀況。出現過度磨損時,承軸會因為潤滑不足或錯位出現故障,可能造成整個生產流程的中斷。
聲學分析(超音波)
聲音聲學分析雖然可以用來進行主動與預測性維護,超音波聲學分析卻只能用於預測性維護。它可以在超音波範圍內找出與機器摩擦及壓力相關的聲音,並使用在會發出較細微聲音的電氣設備與機器設備。我們可以說這一類型的分析與震動或油量分析相比,更可以預測即將出現的故障。目前它部署起來比其他種類的預防性維護花費較高,但終端 AI 的進展可以促成這種細微層級的聲學檢測,大幅降低部署的費用。
熱顯影
熱顯影利用紅外線影像來監控互動機器零件的溫度,讓任何異常情況很快變得顯而易見。具備終端 AI 能力的裝置,可以長期檢測微細的變化。與其他對事故敏感的監視器一樣,它們會觸發排程系統,自動採取適當的行動來預防零件故障。
消費者與智慧家庭
將語音運用在消費者與智慧家庭,是最常看到的場景之一。這包括智慧型手機與平板電腦上、未包含電話整合功能的裝置,例如螢幕尺寸有限的穿戴式裝置。這類型的裝置包含智慧手錶與健康穿戴式裝置,可以為各種功能提供免動手的語音啟動。像 Amazon 的 Echo 或 Google 的 Home 等智慧音箱市場的成長,說明消費者對於可接收與提供語音互動等現有裝置的強勁需求,與日俱增。
消費者基於各種理由使用智慧音箱,最常見的使用場景為:
聽音樂;
控制如照明等智慧家庭裝置;
取得新聞與天氣預報的更新;
建立購物與待辦事項清單。
除了像智慧音箱與智慧電視等消費裝置,智慧家庭裝置語音的使用,也顯現相當的潛力。諸如連網門鈴(如 ring.com)等裝置與連網的煙霧偵測器(例如 Nest Protect 煙霧與一氧化碳警報)目前都已上市可供消費者選購,它們結合了語音與視覺的感測器融合功能以及運動檢測。有了連網的煙霧偵測器,裝置在偵測到煙霧或一氧化碳時,可以發出語音警告。
終端 AI 為強化這些能力提供了全新機會,而且常常結合震動(動作)、視覺與語音控制。例如,增加姿態辨識來控制例如電視等家電,或是把語音控制嵌入白色家電,即是以最低成本強化功能性最直接的方式。
健康照護
用來發現醫護資訊的 AI 驅動終端裝置的應用,將為病況的治療與診斷,提供更多的價值。這種資訊可能是資料,也可能是影像、影片以及說出的話,我們可以透過 AI 進行型態與診斷分析。這些資料將引發全新、更有效的治療方法,為整個產業節省成本。受惠於終端 AI 的進展,像 Google Duplex 等語音系統的複雜性將會降低。例如門診預約等勞力密集的工作,也可以轉換成 AI 活動。利用自然語言語音來延伸 AI 的使用,也可以把 AI 用在第一線的病人診斷,然後再由醫師接手提供諮詢。
其他健康照護實例包括像 Wewalk5 等物件,這是一個供半盲與全盲人員使用的智慧拐杖。它使用感測器來檢測胸口水平以上的物件,並搭配 Google Maps 與 Amazon Alexa 等 app,方便使用者提出問題。
結論
由於連網的終端裝置數量越來越多,這個世界也越來越複雜。連接到網際網路的裝置已經超過 300 億個,而微控制器的數量也超過 2,500 億,每年還會增加約 300 億個。越來越多的程序開始進行自動化,不過,把大量資料傳送到雲端涉及的延遲以及邊緣運算的額外費用,意味著許多全新、令人興奮且引人矚目的物聯網使用場景,可能無法開花結果。
解決這些挑戰的答案,並不是為雲端資料中心持續增添運算力。降低出現在邊緣的延遲雖然會有幫助,但不會解決日益分散的世界的所有挑戰。我們需要把智能應用到基礎架構中。
儘管為終端裝置增添先進的運算能力在十年前仍不可行,TinyML 技術近來的提升,已經讓位處相當邊緣的裝置 (也就是終端本身)增添智能的機會大大改觀。在終端增加運算與人工智慧能力,可以讓我們在源頭搜集到更多更具關聯性與相關的資訊。隨著裝置與資料的數量持續攀升,在源頭掌握情境化與具關聯性的資料,具有極大的價值,並將開啟全新的使用場景與營收機會。
終端裝置的機器學習,可以促成全新的終端 AI 世界。新的應用場景正在崛起,甚至跳過傳送大量資料的需求,因而紓解資料傳輸的瓶頸與延遲,並在各種作業環境中創造全新機會。終端 AI 將為我們開啟一個充滿全新機會與應用場景的世界,其中還有很多我們現在想像不到的機會。
附圖:圖1:從集中式到分散式運算的轉變。
(資料來源:《The End of Cloud Computing》,by Peter Levine,Andreessen Horowitz)
圖2:全球上網裝置安裝量。
(資料來源:Strategy Analytics)
圖3:深度學習流程。
圖4:MCU的視覺、震動與語音。
(資料來源:意法半導體)
圖5:AI 工具集執行模型轉換,以便在MCU上執行經最佳化的神經網路推論。
(資料來源:意法半導體)
圖6:物聯網企業對企業應用的使用-目前與未來。
(資料來源:Strategy Analytics)
圖7:促成情境感知的感測器融合。
(資料來源:恩智浦半導體)
資料來源:https://www.eettaiwan.com/20210303nt31-the-dawn-of-endpoint-ai-bringing-compute-closer-to-data/?fbclid=IwAR0JTRpNsJUl-DmSNpfIcymGQpkQaUgXixEaczwDpELxGCaCeJpkTyoqUtI
物件偵測模型比較 在 台灣物聯網實驗室 IOT Labs Facebook 的最佳解答
AI落地工業環境挑戰多,中鋼歸納3大AI導入經驗:足量訓練資料、選對技術、循序漸進為成功關鍵
中鋼採取由現場出題、專家解題的方法,從2017年開始較具規模的導入AI,今年在臺灣AI年會上,更分享了實作AI過程中遇到的挑戰,更以自家代表性的AI專案,歸納出3大實戰經驗來提供他者參考
文/翁芊儒 | 2020-11-19發表
中鋼綠能與系統整合研究發展處研究員許朝詠,以自己實作過的多個AI專案,來分享從選題、執行到落地的3大AI實戰經驗。
中鋼從2014年開始擁抱智慧製造,經歷了許多試驗後,才在2017年更有規模的落地AI應用,採取由現場出題、專家解題的方法,每年從上百個提案中篩選約20個可行性較高的方案,來導入應用場景。中鋼綠能與系統整合研究發展處研究員許朝詠,也在今年的臺灣AI年會上,以自己實作過的多個AI專案,從選題、執行到落地,歸納出3大AI實戰經驗,來提供其他企業借鏡參考。
許朝詠首先引述麥肯錫2019年發布的一份報吿指出,企業要在工業場景落地AI並不容易,超過7成的企業正在進行局部試點,其中29%企業已經試點超過2年,56%進行了1~2年,更有15%才剛起步。對中鋼來說,在導入AI過程中,也同樣面臨了「試點困境」,尤其在電腦視覺要落地煉鋼場域時,中鋼也面臨了4個AI應用挑戰。
其一,是工業環境不易控制,會造成取得影像的品質差異大,比如鋼鐵製造環境動輒在900度以上的高溫中,處理過程也可能噴水冷卻,導致難以取得清楚的影像;又或是在同樣位置拍攝的影像,也可能因光源不同,導致影像呈現不同的效果。
其二,現場實際環境會限制AI應用的計算能力,比如部分場所的空間有限,無法擺下GPU伺服器、或高計算能力的設備,甚至連網路線都無法部建,「在這樣的環境下,我們的模型就必須要能兼容邊緣運算,才能實際應用。」許朝詠說。
其三,被偵測物體的尺寸不一,也會影響深度學習的模型訓練成果。許朝詠以識別鋼品身分的AI序號辨識為例,就算是相同的鋼品,影像拍攝的尺寸不同,會造成鋼品上印製序號大小的差異,進而影響序號辨識模型的表現。
最後,則是深度學習模型的調整彈性差。同樣以序號辨識模型為例,許朝詠表示,有時會遇到視覺效果相同的數字(比如像是同一個數字1),在不同序列中卻無法辨識,「為什麼有時候,1可以辨識出來,有時候卻不行?」許朝詠表示,要解決這個問題,通常需要重新訓練模型,但會消耗許多時間。因此,中鋼目標要提出適合工業應用的物件偵測技術,來更輕易且廣泛的應用到各個製程。
3大AI導入經驗之一:充足訓練資料是AI成功落地的一大關鍵
許朝詠也透過多個中鋼導入AI的案例,來分享導入經驗。比如說,前述提到的AI序號辨識應用,是指在將鋼片卷曲製作成一卷卷的鋼卷後,會在鋼卷的金屬表面或是側面,噴印上鋼鐵的生產序號,藉此來辨識每一卷鋼鐵的身份。但是,這些序號的噴印位置,可能帶來不同的辨識挑戰,比如噴印在鋼卷表面,就可能因金屬反光影響序號辨識的精準度,若是噴印在鋼卷側面,層層堆疊的鋼片又可能導致字體變形,均會影響AI判讀。
「我們提供技術,但有些問題不是技術能解決的,就要跟現場人員溝通,請他們協助解決問題。」許朝詠指出,AI落地需要與第一線人員溝通協作。
不過,就算與現場人員合作,序號的辨識率仍無法達到100%,尤其是鋼卷側面序號的辨識率,僅達到9成5,「序號要完全正確才能用,9成5其實很低。」許朝詠表示,為了克服這項挑戰,中鋼在產線上的多個位置都設有攝影機,同時將這些攝影機判讀的資訊互通,透過多點的資訊對接,來判斷出鋼卷序號。
「不要把問題放在同一個地方,比如利用多點攝影機、多資訊的串流,去補足AI模型上的不足,就能讓整個系統的準確率達到100%。」他說。
另一個例子,則是高爐原料粒徑分析的AI應用。一般來說,高爐是用來將原料溶解為鐵水,而原料在送入高爐時,若粒徑大小分佈較平均,就能提升高爐的燃燒效率,中鋼甚至推算,高爐燃燒效率每提高1%,每年可以減少上億的燃料經費,因此,中鋼用AI來辨識每顆原料的粒徑大小,即時計算出進到高爐的物料大小與分佈狀況,再根據計算結果來調整物料分佈,進而提升燃燒效率。
許朝詠表示,上述兩個案例的共通點,在於資料的取得非常容易,不管是序號或是原料的影像資料,都在產線上不斷產生,「影像取得沒問題,資料也乾淨,較有機會訓練出良好的深度學習模型,也有機會快速達到成效。」相對來說,瑕疵辨識這類AI應用的影像資料搜集,就比較困難。
「要判斷一個案子能不能做,可以先看能不能蒐集到足量的資料。」這就是許朝詠歸納的第一大AI導入經驗。
3大AI導入經驗之二:不是最新技術也能打造最切合場景需求的應用
許朝詠也接續說明了無人天車的AI應用。天車是一種重型的起重裝置,用來吊送貨品、放置到指定位置,而中鋼就是將原先需要人為操控的天車,透過AI達到無人化,「這也是我認為中鋼應用AI最成功的案例。」
要達成無人天車,主要是把人眼看到的操作資訊,透過電腦視覺轉換為控制的指令,再交由天車自動執行,也就是將操作人員看見的鋼卷位置、放置位置及操作方法,都轉換為天車指揮系統可以判讀的資訊,再透過運動控制達到自動化。
無人天車使用的技術,包括能透過座標辨識來裝卸鋼卷的機器視覺系統,以及能透過RFID讀取鋼卷身份,再準確偵測鋼卷的中心位置來吊起鋼卷的智慧型吊夾,而整體鋼卷的吊運排程與吊運路徑最佳化,則是由天車指揮系統來規劃,中鋼同時也建置用來傳輸車籍資料、整合裝卸車資料的雲端倉儲管理系統。達到天車操作全自動化之後,中鋼也設置了主動式安全防護機制,透過深度學習來偵測天車下方是否有人行走,並在行駛過程中自動辨識障礙物與閃避。
建置了無人天車帶來的一大效益,就是能在出貨的前一晚,由機器自動理貨,將要出廠的貨物就近放置到出貨的位置,「天車不會休息,人會休息,在不需出貨的時間先理貨,就能加速出貨的效率。」許朝詠說。
中鋼的無人天車也早在2018年就投入運作,至今已經完成超過數十萬顆鋼卷的吊運。不只自建自用,中鋼也將這套無人天車系統外銷到中國鋼廠,2019年就已經銷售了12套系統,今年武漢肺炎疫情期間,更是遠距協助客戶調機、將系統落地。
不過,這個貼近鋼鐵業需求的無人天車,實際上並無用到深度學習技術,「深度學習雖然是好工具,但不一定是最佳工具,也不是唯一的工具。」許朝詠表示,由於天車在裝卸鋼卷時,需要非常精準的定位,誤差超過5公分就可能吊不起鋼卷,但深度學習在位置偵測的精準度上並無優勢,加上判斷速度較慢,「傳統影像處理有些技術,應用上會比深度學習來的更好。」
換句話說,不是用最新、最強的技術就好,不同應用場景有其最合適使用的技術,這就是許朝詠歸納的第二大AI導入經驗。
3大AI導入經驗之三:從自動化、人機協作到智慧化循序漸進落地AI
最後,許朝詠也提出一項正在建置的AI應用,也就是出貨前的鋼卷智能檢核,雖然目前僅有初步成果,但這項應用實際影響了傳統檢核作業流程的轉變。
許朝詠解釋,鋼鐵在包裝、裝載完成之後,還需要檢核包裝外觀,以避免客戶收貨後發現包裝瑕疵,因而對品質產生疑慮。為了檢核來自23個倉庫的貨品,中鋼設置了4個主要的檢核站,共計17個車道、每個車道配置4名檢核人員,車輛在倉庫裝載貨品後會先前往檢核站,由人工檢查外觀是否破損,並核對貨品身份與數量,完成檢核才能出廠。
但傳統的人力檢核方式,不僅人力成本較高,大量出貨時載貨司機也常需排隊等待,更佔用了約兩個倉庫的空間來檢核。對此,中鋼試圖透過AI智能檢核的方式,將傳統的檢核中心改以一個雲端檢核中心來取代,在每個倉庫出貨前,直接將鋼卷影像上傳雲端,由檢核人員從雲端照片來判斷是否有瑕疵,若無即可放行車輛出廠,不只能加快檢核效率,檢核人員也能更輕鬆完成任務。
而這些檢核照片的篩選,則是先拍攝車輛進入檢核站的影像,經過運算後,自動擷取鋼卷正面、側面品質最佳的影像,透過自動檢放系統來提供檢核人員檢驗,經實測後,完成8張鋼卷照片的檢驗大約只要8秒。
許朝詠表示,將檢核流程雲端化只是第一步,中鋼下一步要利用檢放系統,在檢核人員雲端判讀照片狀況的同時,蒐集異常照片的資料,再利用深度學習的技術來訓練瑕疵辨識模型,進一步將檢核流程自動化且智慧化,來取代人工作業。
「邁向智慧化的過程,很多人會想要一步到位,但很困難,如果能用AI先實現局部的自動化,透過人機協作來提升作業效率,並同步搜集資料,就會對智慧製造的實現有很大的幫助。」許朝詠認為,AI落地並非一蹴可幾,需要一步步優化原先的作業流程,蒐集足夠的資料,才能實現智慧化的目標,這也是他提出的第三大AI導入經驗。
附圖:應用場景的序號本身可能有模糊、手寫字、油漆過淡等問題。
透過資訊的串接,來克服AI序號辨識可能不夠精準的問題。
透過即時原料粒徑大小分析來調整物料分佈,進而提升高爐燃燒效率。
人工檢核過程。
透過檢放系統來檢驗熱軋鋼卷的包裝外觀。
資料來源:https://www.ithome.com.tw/news/141163?fbclid=IwAR3UUiJ0rpr7aUf8d2FmGZaZp3_e4E-9esf6ZOD1iiA20Id4ZYo1-hK7iwc