臺南攜手AMD提供免費AI算力　助新創加速模型開發與技術落地

康永瑞
Share:

（圖／臺南市政府）

AI技術快速發展，算力成本成為新創團隊及中小企業投入人工智慧應用的重要門檻。臺南市政府攜手AMD，透過「AMD-ITRI高速運算平台」開設臺南市政府專案，提供免費AI算力、開發環境及技術支援，協助新創團隊與企業進行AI模型開發、效能測試及技術驗證，進一步加速AI應用落地。

目前第5梯次已開放申請，收件至9月2日止，預計9月16日至10月23日提供算力使用；第6梯次則收件至10月28日，使用期間為11月11日至12月18日。申請對象包括與臺南具有高度連結、運用AI技術服務在地中小企業的團隊，以及沙崙園區進駐廠商與新創企業。

此次平台採用AMD Instinct MI300X GPU，單張GPU具備192GB記憶體，可支援80B參數等級模型，應用於大型模型訓練、微調及推論等AI開發工作。平台也提供Web Portal操作介面及容器化專案環境，搭配教育訓練與專人技術支援，讓團隊不必自行投入大量成本建置高效能運算環境，即可進行AI研發。

依專案規劃，獲選團隊預設最高可使用2張GPU、32核心、512GB系統記憶體及5TB儲存空間；若有更高算力需求，也可以提出擴增申請。每梯次使用期間為5週，第1週進行教育訓練及連線測試，第2週至第5週則投入專案開發，若有延續使用需求，也可提出展延申請。

臺南市長黃偉哲表示，人工智慧已成為全球產業競爭及產業升級的重要動能，臺南具備南部科學園區半導體產業聚落、沙崙智慧綠能科學城及完整產學研能量，也是推動「大南方新矽谷推動方案」的重要城市。

黃偉哲指出，市府持續串聯國際科技企業、法人及學研機構，打造AI創新生態系，此次與AMD合作提供免費AI算力，就是希望降低企業投入AI研發的門檻，吸引更多新創與企業到臺南進行技術驗證及場域實證，進一步促進AI技術商品化及產業升級。

經濟發展局長張婷媛表示，AI模型開發通常需要大量運算資源，對新創及中小企業而言，高效能GPU設備與相關環境建置成本相當可觀。本次專案除了免費提供算力，也整合AI開發環境、教育訓練及技術輔導，讓團隊能將有限資源集中在模型開發、產品測試及場域驗證，縮短研發週期，加快創新技術商品化。

目前「AMD-ITRI高速運算平台」已完成4梯次算力服務，應用範圍涵蓋醫療、AI研究、智慧服務、金融、大數據分析及智慧製造等領域，既有應用案例包括大型語言模型推論加速、影像處理及製造業知識問答系統，顯示平台可支援不同產業進行AI模型訓練、效能驗證及應用開發。

經發局表示，本專案可採單一團隊或跨機構聯合方式申請，有意申請者填具「AMD Instinct算力使用申請書」後，回傳至平台聯絡窗口，再由AMD與工研院組成的評選委員會，依專案前瞻性、技術可行性及商業化潛力進行審查。

經發局呼籲，有AI模型開發、效能驗證需求的新創團隊及企業，可把握免費算力資源，透過AI技術加速產品研發與實際應用，進一步將臺南打造為AI創新、技術驗證及產業應用的重要基地。相關申請資訊可洽工研院電光系統所趙秀惠小姐，電話03-5914721。