AI云服务
RTX 4090 / RTX 6000 Ada 弹性推理云节点
产品型号: RTX-4090-24G
·
访问关注: 10 次
高性价比大模型推理、Stable Diffusion绘图与垂直领域开发微调首选。
主要技术性能参数
4× RTX 4090 24GB, PCIe 4.0 x16, 256GB DDR5, 100Gbps 冗余网络, 8TB 高速 NVMe 固态
产品技术详情与交付规格
具备极高性价比的推理节点，秒级启动镜像环境，针对 vLLM、TensorRT-LLM 进行了专门内核加速。