在起容器的时候虽然指定了sleep infinity 但是启动后五秒钟还是会自动关闭。
这个是我原始的启动容器的命令
docker run --gpus all -d -v ~/pywork/:/workspace \
--net=host --ipc=host \
--device=/dev/infiniband/rdma_cm \
--device=/dev/infiniband/uverbs0 \
--ulimit memlock=-1:-1 \
--name vllm_test \
vllm/vllm-openai:latest \
sleep infinity
在网络上查找似乎没有找到问题所在,后来经过查询命令发现
可能是启动的镜像在Dockerfile 中预定义了 ENTRYPOINT 或 CMD 指令,导致附加的 "sleep infinity" 命令被覆盖。
此时需通过 --entrypoint 参数显式重置入口点:
修改之后的命令
docker run --gpus all -dit \
--entrypoint "/bin/bash" \
-v ~/pywork/vllm-project:/workspace \
--net=host --ipc=host \
--device=/dev/infiniband/rdma_cm \
--device=/dev/infiniband/uverbs0 \
--ulimit memlock=-1:-1 \
--name vllm_test \
vllm/vllm-openai:latest \
-c "sleep infinity"
这样就可以让容器保持运行了