标签: 部署

使用该标签的全部文章 "部署".

• 五种模型各做什么：从问答到文档识别

  2026年10月29日

  通过具体例子对比文本生成、图文理解、向量、重排和文档识别模型，了解用途、部署条件与关键参数。

• 从模型文件到推理服务：一篇文章认识 vllm

  2026年10月28日

  从大模型部署中的实际问题出发，介绍 vllm 的作用、请求调度和显存管理，并通过示例了解模型服务的部署与调用。

• 从 tp 和 pp 到 vllm ascend 看懂大模型推理配置

  2026年10月28日

  用加工线和播放器的例子，讲清张量并行、流水线并行、量化参数，以及 vllm 和昇腾适配插件的关系。

• 昇腾 npu 如何接入 kubernetes：从机器有卡到 pod 能计算

  2026年10月23日

  用一次去敏后的实践，讲清昇腾 npu 如何被 kubernetes 发现、分配，以及怎样确认 pod 真正完成计算。