标签: docker
使用该标签的全部文章 "docker".
docker部署llm
gpu驱动版本需要更新，否则vllm不支持 参数需要调整，否则gpu oom 大模型通过国内镜像下载 vllm通过国内镜像下载
使用容器模拟虚拟机作为ssh服务器
在学习ansible时，需要添加一些远程host测试playbook，所以想通过docker模拟一个vm，然后安装ssh服务，方便测试运行playbook。
在docker上启用open policy agent
docker可以启用很多插件，这里主要介绍opa插件，用于做策略控制。
云原生之docker
最近读到一本云原生相关的书，也结合自己使用容器的一些经验，分享下在云原生环境中使用容器的一些技巧：