Ray Cluster + Vllm 部署满血版DeepSeek R1 671B

系统环境系统版本IP地址主机名vllm版本ray版本显卡Ubuntu 22.04.5 LTS10.84.4.53server1Version: 0.7.2...

  • Kevin
  • 2025 年 02 月 14 日
  • 暂无评论