AI & 大模型
颜色
@qlora
QLoRA 通过将 4 位量化与 LoRA 适配器相结合，可以在消费类 GPU 上微调大型语言模型。 65B 模型可以在单个 48GB GPU 上进行微调，同时匹配 16 位微调性能。
包含技能
1 个颜色
@itsmostafa/llm-engineering-skills/qlora
QLoRA 通过将 4 位量化与 LoRA 适配器相结合，可以在消费类 GPU 上微调大型语言模型。 65B 模型可以在单个 48GB GPU 上进行微调，同时匹配 16 位微调性能。