李翔宇
关于
研究
论文
博客
之外
EN
标签
GPTQ
这一主题下的全部文章。
增强 vLLM 对 GPTQv2 格式的支持:分析与实现
2025/10/12
分析 vLLM 对 GPTQv2 格式支持的局限,以及低比特非对称量化推理所需的 CUDA 内核改动。
↑
↓
选择
↵
打开
Esc
关闭