「國產算力」借港平台推廣AI算力

●香港南卓數據董事兼總經理樊偉焯
●香港南卓數據董事兼總經理樊偉焯

  香港文匯報訊(記者 曾業俊)從事算力共享服務的香港南卓數據董事兼總經理樊偉焯向香港文匯報記者表示,公司銳意推動「國產算力」出海,為海外企業提供對應的「國產算力」。公司的核心業務是自主研發的NCOS算力調度平台,將全球,特別是內地閒置的算力資源(例如貴州、廣東的數據中心),通過公司的平台連接起來,提供給有需求的「出海」企業。公司透過生產力局的「數碼不求人(SME-ONE)」平台向中小企推廣AI算力方案,幫助這些準備「出海」的企業能更便捷及更低成本地使用AI算力,實現數碼轉型。

  他指出,公司的特色是利用很多由風電、太陽能等組成的綠色能源算力,讓海外企業在使用公司的服務進行AI模型訓練時,不僅解決算力需求,還能滿足其ESG(環境、社會及管治)目標,減少碳足跡。這對於一些難以承受大規模AI運算所帶來巨額碳排放的國家或企業而言尤其具吸引力。

  嚴格遵守各地數據法規

  提及算力「出海」的最大困難,樊偉焯坦言,「國產算力」出海遇到很大的生態制約,導致研發和對接成本增加。但隨海外的中資企業逐漸接受「國產算力」出海,情況已經好轉,儘管前年耗費大量研發成本,但同時解決了安全問題、數據問題及管控問題,保障海外企業使用「國產算力」。

  面對跨境調度算力時如何處理數據安全及法規問題,樊偉焯直指「這是關鍵問題」,公司嚴格遵守各地的數據法規,數據本身必須留在服務對象所在的司法管轄區。公司的模式不是「搬運」數據,而是「實時調取」,強調只利用內地閒置算力供香港與海外客戶使用,並沒有在內地儲存香港或海外客戶的數據。客戶的數據儲存在當地伺服器,當需要運算時,公司通過大寬頻網絡,實時調取其數據到公司的內地或香港GPU節點進行運算,運算完成後只返回結果。因為目前公司主要從事AI大模型「訓練」(Training),而不是即時的「推理」(Inference),所以對延遲的容忍度較高,這種模式是完全可行。但此技術暫時不適合需要即時反應的應用,待公司技術研發迭代,未來會為推理提供即時應用,也會推出合適的解決方案。