产品简介
G5208 DS推理服务平台一体机基于高性能G5208硬件平台,预装DeepSeek-R1模型及AIOS 3.0-DS操作系统,集成VLLM/Llama-box等推理引擎。产品提供从32B到70B的轻量级(Lite)至高性能(Premier)型号,适合需要快速响应的场景,支持私域知识库问答、代码补全、智能客服等高并发场景。
产品参数

了解有关该产品的更多信息 , 请联系销售代表代表或业务合作伙伴

相关产品
G5208 PCIE4

了解详情

G5208 PCIE5

了解详情

G5208 DS-R1

了解详情