2Views 0Comments
數發部打造AI算力池 7月開放
記者傅希堯∕綜合報導
數發部指出,為建設台灣為AI之島,將購買輝達(NVIDIA)、超微(AMD)頂級算力晶片,建構「算力池」提供給產業運用,最快七月免費對外開放資服業者申請AI算力,包括基因排序、氣候變遷、長照行為偵測等模擬運算,可望讓創新點子跑得更快。
數發部數位產業署副署長胡貝蒂表示,「數位產業跨域軟體基盤暨數位服務躍升計畫」屬於數位公共建設,透過打造AI算力、數據、程式碼三大元件庫,讓許多模型與應用不用從零開始,有需求者可以到三間倉庫取用有需要的元件,加速業者的創新應用。
數發部指出,生成式AI應用需要大量資料與算力,由於AI算力昂貴,企業就算想用,一來可能買不到足夠算力,二來階段性使用完畢,也可能有剩餘算力沒被善加運用,數產署打造「AI算力池」,透過算力共享概念,有需求的團隊就可以申請AI算力。
數產署AI算力池,首年度規劃採用輝達的H100晶片三十二片、AMD的MI300X晶片八片,展示強大運算力,後續逐年視需求增購繪圖處理器算力。
胡貝蒂表示,考量新創團隊初期資源較少,因此作為加分項目,樂見產業帶著題目組隊申請,希望主題對社會影響力高。規劃七月開放業者申請AI算力,後續由審查小組審核計畫,申請一次約可使用六週算力,目標今年讓六十家業者使用。