最新消息

關注我們 取得 CKmates 第一手消息

比 DeepSeek省!APMIC 與銓鍇國際攜手推出「 Test-Time Compute AI 算力解決方案」,重新定義企業 AI 訓練模式

比 DeepSeek 省!APMIC 與銓鍇國際攜手推出「 Test-Time Compute AI 算力解決方案」,重新定義企業 AI 訓練模式

AI 的發展日新月異,但企業在 AI 訓練與運行的過程中,始終面臨高昂成本、長時間訓練與數據安全風險等挑戰。為解決這些痛點,企業自主 AI 解決方案領導品牌 APMIC 與銓鍇國際(CKmates)一同推出「Test-Time Compute AI 算力」解決方案,此方案類似於 Deepseek R1 的全新訓練方案「APMIC Toolbox s1」以及 CKmates 的「AI CKompute」實體機櫃租賃服務 。 
 
「APMIC Toolbox s1」是基於 NVIDIA NeMo 所開發的框架,同時也支持由 AI教主李飛飛所發表的「Simple test-time scaling」的訓練方法,該方法不僅承襲了 Deepseek 的優點,也免去了中國訓練方法或模型所產生的資安問題,同時也相較 Deepseek 方法節省 90 %的成本,訓練資料從 80 萬筆減少到 1 千筆。 
 
過去為了實現高準確率的模型,通常需要昂貴的設備與訓練方法,而這次透過「APMIC Toolbox s1」搭配 CKmates 推出台灣首創「AI CKompute」算力機櫃租賃服務,提供搭載 24 片的 H100 GPU 高階伺服器,可整櫃直送客戶現場,用戶只需準備電力與網路,亦或是放在 CKmates 端以遠端連線方式使用,免去自行維運負擔。此模式便能快速啟動資料訓練與進行高強度測試,不必排隊等雲端 GPU 資源,也免除將機密數據外移的隱憂。 

 

「Test-Time Compute AI 算力」軟硬體整合解決方案,讓客戶完全能夠在地端實現「知識蒸餾(Knowledge Distillation)」透過大模型學習企業領域知識,然後縮小到 32B~70B 的模型上,讓推論成本可以節省比 ChatGPT 高達 98% 以上,而且知識不外流。 
 
「APMIC Toolbox s1」搭配 24 片的 H100 設備後,成為一個能訓練、推論的多模態的企業數位大腦,既能夠分析圖片、文字,也可以進行企業知識的深度推理,相較於傳統的做法,資訊檢索準確度提升了 70%,方便企業用戶進行知識管理、撰寫報告。 

 

企業不再擔心要購買昂貴的設備,可依業務需求靈活調整「AI CKompute」租用方案,企業可依需求長期租用,甚至可租單一個月或幾天短期使用,皆能以合理的費用獲取強大算力支援,避免高昂的前期設備投資與維運負擔。租約到期後,客戶可選擇整機購買或直接歸還,是實踐「資本支出轉營運支出」的高彈性策略,讓企業無需投入鉅額資本支出,即可快速取得所需 AI 運算資源。 

最新消息

Contact Us
joinline