華碩發表UGen B70推論加速卡:32GB大容量解決地端AI算力瓶頸

加入好友 訂閱頻道

隨著大型語言模型(LLM)與代理式AI(Agentic AI)逐漸從雲端走向工作站,企業與開發者在執行地端AI時,經常面臨顯示記憶體(VRAM)不足的痛點。華碩(ASUS)於2026年10月28日正式發表全新 ASUS UGen Intel® Arc™ Pro B70 32GB 推論加速卡,主打以親民的價格提供 32GB GDDR6 ECC 超大容量記憶體,為專業消費者、小型工作室及企業部門級AI團隊提供高性價比的地端算力解決方案。

ASUS UGen Intel Arc Pro B70 32GB推論加速卡
華碩全新推出的 ASUS UGen B70 32GB 推論加速卡,專為解決地端AI推論的記憶體瓶頸而生。

突破VRAM瓶頸:32GB ECC記憶體與128K上下文支援

現代AI工作負載對記憶體的需求極高,舉凡較長的上下文推理會大幅增加 KV 快取用量,或是多代理(Multi-agent)部署需要同時執行多個模型,都會大量消耗 VRAM。若 VRAM 容量不足,系統便會將資料卸載至主記憶體,導致推論效能重挫超過 10 倍。全新 ASUS UGen B70 內建 32GB、具備 ECC(錯誤檢查與修正)保護的 GDDR6 記憶體,能完整支援多數 27B 參數以下的模型並將其保留於加速卡上。此外,搭配 Llama 3.1 8B 模型時,更能實現高達 128K token 的長上下文視窗,亦可透過雙卡 64GB 或多卡 128GB 擴充,靈活滿足企業級AI部署需求。

成熟軟體生態系與多樣化模型支援

在軟體支援方面,ASUS UGen B70 內建 INT4 與 FP8 線上量化功能,並相容於多款成熟的 AI 軟體堆疊,包含 Intel LLM Scaler/vLLM XPU、llama.cpp(SYCL/Vulkan)、Ollama、Intel OpenVINO/oneAPI、PyTorch XPU 以及用於影像生成的 ComfyUI。經驗證的模型陣容涵蓋 Llama 3.1/3.2(8B–70B)、Qwen 3.x、DeepSeek-R1 Distill(7B–70B)、Mistral/Mixtral、OpenAI gpt-oss、Whisper-large-v3 與 InternVL3.5 等。特別的是,雙卡配置還能以每秒 43.4 token 的流暢速度執行 80B 等級模型,展現強悍的地端推論效能。

這代表什麼?

過去企業在導入地端 AI 時,往往受限於高昂的硬體成本或主流加速卡 16GB 的記憶體天花板,導致敏感資料必須外傳雲端。華碩此次推出的 UGen B70,不僅透過 32GB ECC 記憶體與多卡擴充機制降低了建置門檻,更兼顧了法律、醫療、政府與金融等領域對於資料合規與資訊安全的嚴格要求,象徵地端 AI 算力正朝向更普及、更實用的方向邁進。

重點整理

  • 超大記憶體:搭載 32GB GDDR6 ECC 記憶體,有效避免 VRAM 不足導致的效能下降。
  • 彈性擴充:支援單卡、雙卡 64GB 或多卡 128GB 配置,滿足不同規模的 AI 模型需求。
  • 豐富生態:完整支援 vLLM、Ollama、OpenVINO、ComfyUI 等主流 AI 軟體堆疊與多種熱門開源模型。
  • 三大小族群適用:涵蓋專業開發者、中小企業工作室及企業部門級團隊,兼顧成本與資安合規。

常見問題 FAQ

Q1:ASUS UGen B70 適合用來跑哪些類型的 AI 模型?

A1:UGen B70 支援多數 27B 參數以下的模型並能完整保留於卡上,經驗證的模型包含 Llama 3.1/3.2、Qwen 3.x、DeepSeek-R1 Distill、Mistral、Whisper-large-v3 等,雙卡配置更可執行 80B 等級模型。

Q2:這款加速卡支援哪些軟體工具與框架?

A2:它支援成熟的 AI 軟體堆疊,包含 vLLM XPU、llama.cpp、Ollama、Intel OpenVINO/oneAPI、PyTorch XPU 以及 ComfyUI 等。

Q3:UGen B70 的記憶體容量與擴充性如何?

A3:單張卡內建 32GB GDDR6 ECC 記憶體,並支援雙卡 64GB 或多卡 128GB 擴充,能滿足長上下文與多代理工作流程的需求。


更多 3C 好物與優惠可以參考:https://s.shopee.tw/60PEAvVQ34

發表迴響

這個網站採用 Akismet 服務減少垃圾留言。進一步了解 Akismet 如何處理網站訪客的留言資料。