Bosh sahifa Wiki Fine-tuning

Fine-tuning

Fine-tuning — oldindan o‘qitilgan model parametrlarini yangi dataset va ma’lum vazifa yoki domain uchun qo‘shimcha training orqali moslashtirish jarayoni. Pretrained model umumiy representation va bilimga ega bo‘ladi, fine-tuning esa uni classification, generation, speech, vision yoki tashkilotga xos ishga yaqinlashtiradi.

Fine-tuning modelni noldan o‘qitishga qaraganda kamroq data va hisoblash talab qilishi mumkin.

Pretrained model

Boshlang‘ich model katta umumiy datasetda o‘qitilgan.

U:

ni o‘rganadi.

Fine-tuning shu weightlardan boshlanadi, random initializationdan emas.

Dataset

Fine-tuning dataset vazifaga bevosita mos bo‘ladi.

Misollar:

Kichik datasetdagi xato va bias modelga kuchli ta’sir qilishi mumkin.

Full fine-tuning

Modelning barcha parameterlari yangilanadi.

Afzalligi — maksimal moslashuv imkoniyati.

Kamchiligi:

Katta modelda qimmat bo‘lishi mumkin.

Parameter-efficient fine-tuning

Faqat kichik qo‘shimcha parameter yoki weightlarning bir qismi o‘qitiladi.

Usullar:

  • LoRA;
  • adapter;
  • prefix tuning;
  • prompt tuning;
  • bias tuning;
  • boshqa PEFT yondashuvlari.

Base model frozen qolishi mumkin.

LoRA

LoRA katta weight matrix update’ini past rankli ikki matrix orqali ifodalaydi.

Trainingda faqat shu kichik matrixlar o‘zgaradi.

Afzalligi:

  • kam memory;
  • kichik adapter artifact;
  • bir base modelga ko‘p task;
  • tezroq training.

Rank juda kichik bo‘lsa capacity yetishmasligi mumkin.

Supervised fine-tuning

Input va desired output juftliklari bilan training qilinadi:

ko‘rsatma → namunaviy javob

Language assistant uchun instruction following, format va uslub o‘rgatiladi.

Output sifati va diversity model behavioriga ta’sir qiladi.

Domain adaptation

Model ma’lum soha matni yoki data’siga moslashtiriladi.

Masalan:

  • moliya;
  • tibbiyot;
  • huquq;
  • geologiya;
  • IT.

Domain-adaptive pretraining unlabeled text bilan davom ettirilishi, keyin supervised task fine-tuning qilinishi mumkin.

Task-specific fine-tuning

Model aniq vazifaga o‘rgatiladi:

  • sentiment;
  • NER;
  • object detection;
  • summarization;
  • translation;
  • classification.

Output head almashtirilishi yoki yangi layer qo‘shilishi mumkin.

Backbone qisman frozen bo‘lishi ehtimoli bor.

Learning rate

Fine-tuning learning rate ko‘pincha pretrainingdan kichik.

Katta rate pretrained weightlarni tez buzishi mumkin.

Layer-wise rate pastki general layerlarni kamroq, yuqori task layerlarni ko‘proq yangilashi mumkin.

Warmup va schedule ishlatiladi.

Catastrophic forgetting

Model yangi datasetga ortiqcha moslashib, oldingi umumiy qobiliyatini yo‘qotishi mumkin.

Kamaytirish usullari:

  • kichik learning rate;
  • base data aralashmasi;
  • regularization;
  • qisman freeze;
  • adapter;
  • evaluation suite.

Faqat yangi task metricini tekshirish yetarli emas.

Overfitting

Fine-tuning dataset odatda kichik.

Model samplelarni yodlab qolishi mumkin.

Himoya:

  • validation;
  • early stopping;
  • dropout;
  • augmentation;
  • weight decay;
  • data diversity;
  • kam epoch.

Train loss juda past bo‘lishi sifat kafolati emas.

Data formatting

Language model fine-tuningda role va separator format model tokenizeriga mos bo‘ladi.

Masalan:

  • system;
  • user;
  • assistant;
  • end token.

Inference prompt ayni chat template’dan foydalanadi.

Format farqi javob sifatini pasaytiradi.

Evaluation

Fine-tuned model quyidagilar bilan solishtiriladi:

Faqat training datasetga o‘xshash benchmark yetarli emas.

Data leakage

Evaluation sample training datasetga tushsa metric sun’iy yuqori bo‘ladi.

Deduplication exact va semantic o‘xshashlik bo‘yicha qilinadi.

Public benchmark answerlari training data’da bo‘lishi mumkin.

Mustaqil holdout muhim.

Model merging

Adapter yoki fine-tuned weightlar base model bilan inference vaqtida yoki oldindan merge qilinishi mumkin.

Bir nechta adapter kombinatsiyasi interference yaratishi mumkin.

Merge coefficient va compatibility test qilinadi.

Fine-tuning va RAG

Fine-tuning model behavior, style va task patternini o‘zgartiradi.

RAG tashqi yangi ma’lumotni contextga olib kiradi.

Tez o‘zgaradigan faktni fine-tuning weightiga “yozish” o‘rniga RAG mos bo‘lishi mumkin.

Ko‘p tizim ikkalasini birga ishlatadi.

Fine-tuning va prompting

Prompting weightlarni o‘zgartirmaydi.

Kichik yoki umumiy vazifa prompt bilan hal bo‘lishi mumkin.

Fine-tuning:

  • ko‘p takroriy vazifa;
  • qat’iy format;
  • maxsus uslub;
  • kichik modelni kuchaytirish

uchun foydali bo‘lishi mumkin.

Security

Fine-tuning dataset ichiga:

tushishi mumkin.

Data provenance, access, filtering va red-team evaluation talab qilinadi.

Model artifacti ham sensitive intellectual property bo‘lishi mumkin.

Layer freezing

Modelning pastki layerlari frozen, yuqori layerlari trainable qilinishi mumkin. Vision modelda pastki layerlar umumiy edge va texture feature’larini saqlaydi. Domain juda farq qilsa ko‘proq layer ochiladi. Bosqichma-bosqich unfreezing trainingni barqarorlashtirishi mumkin.

Adapter lifecycle

Har adapter quyidagi metadata bilan saqlanadi:

Noto‘g‘ri base modelga adapter yuklash dimension yoki sifat xatosi beradi.

Continual learning

Modelga vaqt o‘tishi bilan yangi data qo‘shib borish continual learning deb ataladi. Yangi tasklar oldingi qobiliyatni buzmasligi uchun rehearsal, regularization yoki adapter isolation ishlatiladi.

Serving

Bir base modelga ko‘p LoRA adapter dinamik yuklanishi mumkin. Adapter switch latency, GPU memory va tenant isolation bilan boshqariladi.

Bog‘liq tushunchalar

Fine-tuning, Pretrained model, Transfer learning, Full fine-tuning, Parameter-efficient fine-tuning, LoRA, Supervised fine-tuning, Domain adaptation, Catastrophic forgetting, RAG