GGUF 相关文章

深入 Android 端侧 AI 推理的 GGUF 格式适配与 llama.cpp 引擎移植全链路

详细介绍在 Android 端侧部署大语言模型的全链路方案，涵盖 GGUF 量化格式选型、llama.cpp 交叉编译移植，以及量化等级、线程绑定和 KV Cache 三条性能调优路径。