G5208 DS-32B-Premier｜高同時連線AI伺服礦機，多任務智慧運算【Price negotiable】

高同時連線

透過硬體升級，DS 一體化設備可處理的同時連線數量大幅提升，能輕鬆應對高負載的 AI 運算需求。

推薦應用場景

充分運用模型的知識庫、文字理解與生成能力，特別適用於智慧助理、客服系統及即時資料分析等多元應用。

硬體規格

• CPU 資源：64 核心
• 系統記憶體：512GB
• 運算能力：192GB GPU 記憶體、4096 Tensor Core、2.58 PFLOPS 運算效能

軟體環境

• 模型：DeepSeek-R1-Distill-Qwen-32B
• 作業系統：STONETEK AIOS 3.0 DS
• 推論引擎：vLLM
• 其他：整合 PyTorch 深度學習框架，支援 Web 人機互動