Transformers
你可能会说
调个开源大模型，为什么都从 transformers 开始？
Hugging Face 的模型与分词器标准库统一接口加载几万个预训练模型，tokenizer / model / pipeline 一套 API；高并发推理和微调加速要再配 vLLM、trl。
也常被叫作Hugging FaceHF Transformers
什么时候选它
- 加载和微调开源模型
- 需要在不同模型间快速切换
- NLP / 多模态任务快速验证
什么时候别选
- 高并发生产推理（用 vLLM / TensorRT-LLM）
- 需要极致显存优化和调度
- 只用闭源模型 API
容易混在一起 · 怎么分
Transformers≠vLLM
Transformers 是模型库，通用但吞吐一般；vLLM 是推理服务引擎，面向并发和显存效率。
Q面试会问什么
- 问：AutoModel 做什么？
答：读模型配置自动选对应的模型类并加载权重，屏蔽不同架构差异。 - 问：和 vLLM 的关系？
答：Transformers 负责模型定义与加载，vLLM 负责高吞吐推理调度和 KV cache 管理。
延伸阅读 · 权威出处