发布时间:2026-09-24T09:29:30.784Z
用LoRA微调一个自己风格的SDXL模型到底难不难?从数据集准备到rank、alpha、学习率参数,一次讲透。 想让Midjourney和SD画出固定的角色或画风,直接写提示词永远差口气。答案是用LoRA微调。我用Kohya_ss在一张3090上跑通了整个流程,把坑都踩了一遍。 先搞清楚LoRA是什么。它不是从头训练一个大模型,而是冻结原模型,只训练一小撮"补丁"参数。一个LoRA文件才几十MB,想换风格随时挂载、随时卸载,不占多少硬盘。成本低、见效快,这就是它火的原因。跟全量微调比,显存要求从48GB降到24GB就能跑。 数据集准备是最花时间的一步。我训的是一个国风插画角色,准备了25张图,尺寸统一裁成1024x1024,用裁剪工具批量处理。图片质量比数量重要——模糊的、多人物的、水印重的图别往里塞,模型会学坏。每张图配一个txt标签文件,用WD14标签器自动打标后手动修正,把角色名设成一个独特触发词,比如"guofeng_girl_v2"。标签里别加"masterpiece""best quality"这种词,会污染模型。 参数设置我直接给你一套能跑的默认值。基础模型选SDXL 1.0;network_dim(也就是rank)设16,network_alpha设8(一般是rank的一半);学习率UNet用1e-4,Text Encoder用5e-5;batch size设2,epochs跑10轮,总步数大概1500步;optimizer选AdamW8bit;分辨率1024x1024;学习率调度用cosine_with_restarts。训练时长在3090上大概40分钟,显存占用18GB左右。 几个容易踩的坑:rank别贪大,32以上容易过拟合,画风死板;学习率太高会崩,出图全是色块和噪点;数据集里一定要有几张不同角度、不同表情的图,否则模型只会一个姿势一个表情。训练完在WebUI里挂上LoRA,权重调0.7到0.8之间试,太高会过拟合、太低没效果。我还加了一张"正则化图"防止模型泛化变差。 我训出来的那个国风LoRA,配合提示词出图,角色一致性比纯垫图强太多。整个过程门槛没你想的高,一个下午能搞定。