Fine-tuning — oldindan o‘qitilgan model parametrlarini yangi dataset va ma’lum vazifa yoki domain uchun qo‘shimcha training orqali moslashtirish jarayoni. Pretrained model umumiy representation va bilimga ega bo‘ladi, fine-tuning esa uni classification, generation, speech, vision yoki tashkilotga xos ishga yaqinlashtiradi.
Fine-tuning modelni noldan o‘qitishga qaraganda kamroq data va hisoblash talab qilishi mumkin.
Pretrained model
Boshlang‘ich model katta umumiy datasetda o‘qitilgan.
U:
ni o‘rganadi.
Fine-tuning shu weightlardan boshlanadi, random initializationdan emas.
Dataset
Fine-tuning dataset vazifaga bevosita mos bo‘ladi.
Misollar:
- support savol-javob;
- o‘zbekcha instruction;
- tibbiy classification;
- legal entity;
- product image;
- speech transcript.
Kichik datasetdagi xato va bias modelga kuchli ta’sir qilishi mumkin.
Full fine-tuning
Modelning barcha parameterlari yangilanadi.
Afzalligi — maksimal moslashuv imkoniyati.
Kamchiligi:
- katta GPU memory;
- optimizer state;
- uzoq training;
- har task uchun to‘liq model nusxasi;
- catastrophic forgetting xavfi.
Katta modelda qimmat bo‘lishi mumkin.
Parameter-efficient fine-tuning
Faqat kichik qo‘shimcha parameter yoki weightlarning bir qismi o‘qitiladi.
Usullar:
Base model frozen qolishi mumkin.
LoRA
LoRA katta weight matrix update’ini past rankli ikki matrix orqali ifodalaydi.
Trainingda faqat shu kichik matrixlar o‘zgaradi.
Afzalligi:
Rank juda kichik bo‘lsa capacity yetishmasligi mumkin.
Supervised fine-tuning
Input va desired output juftliklari bilan training qilinadi:
ko‘rsatma → namunaviy javob
Language assistant uchun instruction following, format va uslub o‘rgatiladi.
Output sifati va diversity model behavioriga ta’sir qiladi.
Domain adaptation
Model ma’lum soha matni yoki data’siga moslashtiriladi.
Masalan:
- moliya;
- tibbiyot;
- huquq;
- geologiya;
- IT.
Domain-adaptive pretraining unlabeled text bilan davom ettirilishi, keyin supervised task fine-tuning qilinishi mumkin.
Task-specific fine-tuning
Model aniq vazifaga o‘rgatiladi:
- sentiment;
- NER;
- object detection;
- summarization;
- translation;
- classification.
Output head almashtirilishi yoki yangi layer qo‘shilishi mumkin.
Backbone qisman frozen bo‘lishi ehtimoli bor.
Learning rate
Fine-tuning learning rate ko‘pincha pretrainingdan kichik.
Katta rate pretrained weightlarni tez buzishi mumkin.
Layer-wise rate pastki general layerlarni kamroq, yuqori task layerlarni ko‘proq yangilashi mumkin.
Warmup va schedule ishlatiladi.
Catastrophic forgetting
Model yangi datasetga ortiqcha moslashib, oldingi umumiy qobiliyatini yo‘qotishi mumkin.
Kamaytirish usullari:
- kichik learning rate;
- base data aralashmasi;
- regularization;
- qisman freeze;
- adapter;
- evaluation suite.
Faqat yangi task metricini tekshirish yetarli emas.
Overfitting
Fine-tuning dataset odatda kichik.
Model samplelarni yodlab qolishi mumkin.
Himoya:
- validation;
- early stopping;
- dropout;
- augmentation;
- weight decay;
- data diversity;
- kam epoch.
Train loss juda past bo‘lishi sifat kafolati emas.
Data formatting
Language model fine-tuningda role va separator format model tokenizeriga mos bo‘ladi.
Masalan:
- system;
- user;
- assistant;
- end token.
Inference prompt ayni chat template’dan foydalanadi.
Format farqi javob sifatini pasaytiradi.
Evaluation
Fine-tuned model quyidagilar bilan solishtiriladi:
Faqat training datasetga o‘xshash benchmark yetarli emas.
Data leakage
Evaluation sample training datasetga tushsa metric sun’iy yuqori bo‘ladi.
Deduplication exact va semantic o‘xshashlik bo‘yicha qilinadi.
Public benchmark answerlari training data’da bo‘lishi mumkin.
Mustaqil holdout muhim.
Model merging
Adapter yoki fine-tuned weightlar base model bilan inference vaqtida yoki oldindan merge qilinishi mumkin.
Bir nechta adapter kombinatsiyasi interference yaratishi mumkin.
Merge coefficient va compatibility test qilinadi.
Fine-tuning va RAG
Fine-tuning model behavior, style va task patternini o‘zgartiradi.
RAG tashqi yangi ma’lumotni contextga olib kiradi.
Tez o‘zgaradigan faktni fine-tuning weightiga “yozish” o‘rniga RAG mos bo‘lishi mumkin.
Ko‘p tizim ikkalasini birga ishlatadi.
Fine-tuning va prompting
Prompting weightlarni o‘zgartirmaydi.
Kichik yoki umumiy vazifa prompt bilan hal bo‘lishi mumkin.
Fine-tuning:
- ko‘p takroriy vazifa;
- qat’iy format;
- maxsus uslub;
- kichik modelni kuchaytirish
uchun foydali bo‘lishi mumkin.
Security
Fine-tuning dataset ichiga:
tushishi mumkin.
Data provenance, access, filtering va red-team evaluation talab qilinadi.
Model artifacti ham sensitive intellectual property bo‘lishi mumkin.
Layer freezing
Modelning pastki layerlari frozen, yuqori layerlari trainable qilinishi mumkin. Vision modelda pastki layerlar umumiy edge va texture feature’larini saqlaydi. Domain juda farq qilsa ko‘proq layer ochiladi. Bosqichma-bosqich unfreezing trainingni barqarorlashtirishi mumkin.
Adapter lifecycle
Har adapter quyidagi metadata bilan saqlanadi:
Noto‘g‘ri base modelga adapter yuklash dimension yoki sifat xatosi beradi.
Continual learning
Modelga vaqt o‘tishi bilan yangi data qo‘shib borish continual learning deb ataladi. Yangi tasklar oldingi qobiliyatni buzmasligi uchun rehearsal, regularization yoki adapter isolation ishlatiladi.
Serving
Bir base modelga ko‘p LoRA adapter dinamik yuklanishi mumkin. Adapter switch latency, GPU memory va tenant isolation bilan boshqariladi.
Bog‘liq tushunchalar
Fine-tuning, Pretrained model, Transfer learning, Full fine-tuning, Parameter-efficient fine-tuning, LoRA, Supervised fine-tuning, Domain adaptation, Catastrophic forgetting, RAG