LoRA

Эффективный метод файн-тюнинга, при котором обновляются не все веса модели, а только низкоранговые адаптеры. Значительно сокращает требования к памяти и вычислениям.