AI搜索登录

AI概念

vLLM

高吞吐 LLM 推理引擎。

更新：2026/10/12 05:08:39首次收录：2026/10/12 05:08:39原始来源

详细说明：

高吞吐 LLM 推理引擎。

描述来源标记：原始/编辑整理

如何使用：

按文档启动 OpenAI 兼容服务并加载模型。

同类对比：

词条关系简介选择理由
vLLM当前—基准对照
Transformer相关基于自注意力机制的神经网络架构，是现代大模型的基础。与「vLLM」相关，可按场景对照选用
Cross Validation相关Catchpoint API：可用于 AI 应用集成、自动化、数据或基础设施对接的接口/平台能力。与「vLLM」相关，可按场景对照选用
智能体相关能规划、调用工具并多步完成目标的 LLM 应用。与「vLLM」相关，可按场景对照选用
向量嵌入相关OpenAI 嵌入。与「vLLM」相关，可按场景对照选用
模型上下文协议相关Model Context Protocol：让 AI 应用以标准方式连接工具与数据源。与「vLLM」相关，可按场景对照选用
微调相关在预训练模型上用领域数据继续训练。与「vLLM」相关，可按场景对照选用
人类反馈强化学习相关用人类偏好对齐模型输出。与「vLLM」相关，可按场景对照选用
Transcript相关Synthetic Monitoring API：可用于 AI 应用集成、自动化、数据或基础设施对接的接口/平台能力。与「vLLM」相关，可按场景对照选用

继续探索：

基于知识图谱关系，发现相关AI概念与跨分类内容。

相关AI概念