Fine-tuning

LoRAファインチューニングを本番投入して6ヶ月——失敗だらけで学んだQLoRA・DoRA・学習率の現実

「サクッとドメイン特化LLMが作れる」と思ったら泥沼に。rank設定ミス・損失発散・VRAM溢れを全部踏んだ6ヶ月の実録。同じ失敗を繰り返さないための知見をまとめました。