Ray Cluster + Vllm 部署满血版DeepSeek R1 671B

系统环境系统版本IP地址主机名vllm版本ray版本显卡Ubuntu 22.04.5 LTS10.84.10.24server1Version: 0.7....

  • Kevin
  • 2025 年 02 月 14 日
  • 暂无评论