✨零基础手把手|Docker+vLLM极速部署OpenAI风格API:5分钟4卡GPU推理+避坑指南+完整镜像配置

一、Docker 基础命令

  1. 查看容器状态
      docker ps        # 查看运行中的容器
      docker ps -a     # 查看所有容器(包括已停止的)
    
  2. 查看镜像列表
      docker images    # 列出本地所有镜像
    

二、镜像与容器操作

  1. 镜像打包为 .tar 文件

      docker save -o <output.tar> <image_name:tag>  # 将镜像导出为 .tar 文件
      # 示例:
      docker save -o my_image.tar vllm/vllm-openai:v0.8.4
    

    打包多个镜像到一个文件

      docker save -o multiple_images.tar image1:tag image2:tag
    
  2. 从容器创建镜像

      docker commit <container_id> <new_image_name:tag>  # 将容器保存为镜像
    
  3. 加载 .tar 镜像文件

      docker load -i <input.tar>   # 从 .tar 文件加载镜像
    
  4. 修改镜像名和版本

      docker tag <原镜像名>:<原标签> <新镜像名>:<新标签>
    
  5. 删除旧镜像

      docker rmi <原镜像名>:<原标签>
    

三、docker run 命令详解

示例命令拆解

docker run -d \
  --runtime nvidia \
  --gpus '"devi
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值