台灣杉二號 AI 超級電腦的下一步?

隨著AI在各產業的應用逐漸落地,加上逐日累積的資料量,對於系統效能及開發環境的高速運算需求與日俱增,上月底由台灣智慧雲端服務股份有限公司(台智雲,TWS)、台灣大哥大及NVIDIA共同舉辦的「AIHPCcon 台灣AI超算年會」上,展現了台灣杉二號超級電腦的高速運算效能和技術。

「台灣杉二號」是科技部在2017年花費4年時間、耗資50億元,並曾打進全球前20大超級電腦。隨著計畫預算在2020年結束,商業營運權轉由台智雲接手。這台始於國家計畫的超級電腦後續將如何應用?對於台灣的AI產業發展能帶來哪些幫助呢?

台智雲企業方案暨新創合作發展處副總經理黃世民表示,台灣杉二號是針對AI及Data設計的一個叢集(cluster ),尤其是在算力的每個節點的網路傳輸效率及檔案讀取效率,表現特別突出。黃世民提到,透過低延遲網路(InfiniBand100G)的技術連結節點,在傳輸效率上比起傳統的乙太網路快14倍;且由於訓練資料集的讀取效率會大幅影響AI模型的訓練時間與效果,當初也耗費相當大的預算建置高速檔案系統( high speed file system ),希望能降低AI專案的研發時間,同時提升資料處理、模型優化等效能。

哪些產業受到幫助?

過去一年間,台智雲在台灣杉二號及TWCC的基礎下,協助多種產業包括智慧醫療、自駕車、半導體製程進行多項領域專案,累積迄今已服務逾150家業者,預估今年底將增至250家以上。黃世民表示,雖然台灣杉2號的商業營運權轉由台智雲接手,但是產權仍屬國家,天生就合乎在地法規,因此,特別適合一些資料機敏、資料無法離境的行業,例如健康醫療或是金融、壽險相關產業。

除此之外,對於自駕車、生醫領域也能帶來極大的幫助。黃世民分享,國內有一些在做ADAS系統或是智慧車艙的公司,將路上搜集到的大量路況資整理成訓練資料集,並不斷強化自駕車系統。這些客戶在意的除了算力,還有你的平台能不能成為它的數據管道。因為這麼多的資料,需要一個自動化的流程,從資料的拍攝到雲端、清洗處理成資料集再被訓練......。這一段流程能不能盡量被自動化?為此,台智雲也希望藉由跟不同產業的合作,盡力的為客戶構建一個符合需求的平台。另外,則是進行新藥研發的新創公司也能藉由平台的協助,完成客戶的需求。

5G、區塊鏈將是趨勢

黃世民說,目前較為人熟知的三大雲端平台主要是提供綜合型的雲服務Amazon Web Services(AWS)、Google Cloud Platform(GCP)、Microsoft Azure,在亞洲並沒有提供AI超級電腦的服務,雖然他們也有提供類似GPU as Servce的服務,但是單價都不便宜。而台智雲的AI超級電腦服務在興建之際,便被期許能協助台灣的產業界新創、學研界提升發展國際級AI研發的競爭力。因此,在價格方面也較為優惠。他認為,從提供的服務來看,三大平台並不是台智雲的競爭對手,而是合作夥伴。

他提到,混合雲(hybrid cloud )已經是目前的趨勢,台智雲提供的服務甚至可以跟三大雲互補,例如利用Google所提供的工具進行前期資料整理與後期部署,中間訓練則可以透過台智雲的服務進行,並提供工具幫助工程師順利對接,「因為AI本身就是一個協作的過程,」黃世民說,從資料集的準備到資料的處理,不必再只靠一個工程師從頭開始研究,台智雲提供的多種基本工具,將可以協助企業更快速上手。

此外,台智雲也針對協作開發出一套工具:OneAI。黃世民解釋,這套工具並不是要跟其他做MLops產品的新創公司爭客戶,而是希望將AI研發所需的產品備齊,因為相較於其他的MLops產品,OneAI更像是提供初接觸AI的產業一個基礎工具。由於各產業的領域知識仍是人工智慧應用發展的關鍵,許多新創推出的MLops產品都與領域知識有高度連結,例如智慧製造、智慧醫療都有許多垂直應用的整合,且各公司都有專注的領域。因此,他認為,特定產業的需求很難被取代,而台智雲要做的就是成為這些公司的合作夥伴。

未來,台智雲也計畫串連5G、區塊鏈等技術推動更多應用,將於4月底、5月初公布台灣大哥大合作5G服務,因為未來AI應用的體驗都會跟傳輸有很大的關係,未來希望透過這個服務降低企業5G專網的建置與維護成本。另一方面,台智雲也會與其他單位合作推出台灣第一個國家級區塊鏈服務平台,以降低造鏈的成本並提高更多應用的可能性。黃世民說,不僅是超級電腦,台智雲更希望做為AI產業應用發展的後盾。