Vector — tartibli sonlar ketma-ketligi bo‘lib, matematika, fizika, kompyuter grafikasi, machine learning va data science’da ma’lum obyekt yoki yo‘nalishni ifodalash uchun ishlatiladi. Machine learningda vector feature, embedding, gradient, weight yoki model state’ning bir qismini saqlashi mumkin.
Vector odatda bir o‘lchamli array ko‘rinishida yoziladi:
v = [2.5, -1.0, 4.2]
Dimension
Vectordagi elementlar soni uning dimensioni.
Yuqoridagi vector uch o‘lchamli.
Embedding vector yuzlab yoki minglab dimensionga ega bo‘lishi mumkin.
Ikki vector ustida ko‘p operation bajarish uchun dimensionlar mos bo‘lishi kerak.
Coordinate
Har element ma’lum axis yoki feature bo‘yicha coordinate.
Masalan:
[bo‘y, vazn, yosh]
Agar vector raw feature’lardan tuzilgan bo‘lsa coordinate ma’nosi aniq.
Neural embeddingda alohida coordinate ko‘pincha bevosita izohlanmaydi.
Magnitude
Vector uzunligi yoki normasi uning kattaligini bildiradi.
Euclidean norm:
sqrt(v1² + v2² + ... + vn²)
ko‘rinishida hisoblanadi.
Magnitude confidence, energy yoki scale’ga ta’sir qilishi mumkin.
Normalization
Vectorni unit uzunlikka keltirish:
v_normalized = v / ||v||
Bu magnitude ta’sirini olib tashlaydi.
Cosine similarity va retrievalda keng ishlatiladi.
Zero vectorni normalize qilish mumkin emas.
Dot product
Ikki vector mos elementlari ko‘paytirilib yig‘iladi:
a · b = a1b1 + a2b2 + ...
Dot product similarity, projection va neural layerlarda ishlatiladi.
Normalized vectorlar uchun u cosine similarityga teng.
Cosine similarity
Cosine similarity vectorlar orasidagi burchakka asoslanadi.
Qiymat odatda:
- 1ga yaqin — bir yo‘nalish;
- 0ga yaqin — orthogonal;
- -1ga yaqin — qarama-qarshi yo‘nalish.
Embedding model va metricga qarab negative qiymat semantikasi farq qiladi.
Euclidean distance
Ikki nuqta orasidagi to‘g‘ri chiziqli masofa:
||a - b||
Kichik distance vectorlar yaqinligini bildiradi.
Feature scale farqli bo‘lsa katta diapazonli feature distance’ni egallab oladi.
Standardization kerak bo‘lishi mumkin.
Manhattan distance
Mos coordinate farqlarining absolute yig‘indisi.
Grid va high-dimensional ayrim vazifalarda qo‘llanadi.
Metric tanlovi model va data geometry’siga mos bo‘ladi.
Bitta metric barcha embedding uchun universal emas.
Vector addition
Vectorlar elementma-element qo‘shiladi:
[1, 2] + [3, 4] = [4, 6]
Graphics’da position va movementni birlashtiradi.
Neural networkda residual connection representationlarni qo‘shadi.
Dimensionlar teng bo‘lishi kerak.
Scalar multiplication
Vectorning har elementi bitta songa ko‘paytiriladi.
Bu vector magnitude va yo‘nalishni o‘zgartiradi.
Manfiy scalar yo‘nalishni teskarilashi mumkin.
Optimizationda learning rate gradient vectorga scalar sifatida qo‘llanadi.
Matrix-vector operation
Neural layer ko‘pincha:
y = Wx + b
hisoblaydi.
Bu yerda x input vector, W matrix, b bias, y output vector.
Matrix vectorni yangi space va dimensionga transform qiladi.
Feature vector
Bitta sample xususiyatlari vectorga joylanadi.
Masalan:
[age, income, visits]
Categorical feature one-hot yoki embedding orqali vectorga aylantiriladi.
Feature order training va inference’da bir xil bo‘lishi kerak.
Sparse vector
Elementlarning ko‘pi nol bo‘lsa sparse vector deyiladi.
Misollar:
- bag-of-words;
- one-hot;
- TF-IDF;
- katta categorical space.
Sparse representation faqat non-zero index va value’larni saqlab memoryni tejaydi.
Dense vector
Ko‘p elementi non-zero bo‘lgan vector dense.
Neural embeddinglar odatda dense.
GPU matrix operationlari dense tensor uchun optimallashtirilgan.
Sparse va dense format orasidagi conversion xarajatli bo‘lishi mumkin.
Batch
Ko‘p vector matrix yoki tensorga birlashtiriladi:
batch_size × dimension
Bu GPUda parallel hisoblash imkonini beradi.
Sequence batch qo‘shimcha time dimensionga ega bo‘lishi mumkin.
Padding va mask variable lengthni boshqaradi.
High-dimensional space
Dimension oshganda intuition uch o‘lchamli geometry’dan farq qiladi.
Distance’lar bir-biriga yaqinlashishi va data sparse bo‘lishi mumkin.
Bu curse of dimensionality bilan bog‘liq.
Approximate search va dimensionality reduction ishlatiladi.
Dimensionality reduction
Vectorlarni kichik dimensionga tushirish usullari:
- PCA;
- random projection;
- autoencoder;
- t-SNE;
- UMAP.
PCA va projection downstream processing uchun ishlatilishi mumkin.
t-SNE kabi usullar ko‘proq visualization uchun.
Vector index
Katta embedding to‘plamida exact comparison qimmat.
Approximate nearest-neighbor index:
- HNSW;
- IVF;
- product quantization;
- treega oid usullar
bilan searchni tezlashtiradi.
Speed, recall va memory o‘rtasida trade-off mavjud.
Vector va Tensor
Vector bir o‘lchamli tensor sifatida qaralishi mumkin.
Matrix ikki o‘lchamli.
Tensor esa umumiy ko‘p o‘lchamli array.
Machine-learning framework ko‘pincha barcha qiymatni tensor abstraction bilan ifodalaydi.
Projection
Bir vectorning boshqasiga projectioni ma’lum yo‘nalishdagi komponentni topadi. Graphics’da harakatni surface yo‘nalishiga ajratish, machine learningda feature’ni subspace’ga tushirish uchun ishlatiladi. Projection matrix dimensionality reduction va linear modelning asosiy qismi bo‘lishi mumkin.
Orthogonal vector
Dot producti nol bo‘lgan vectorlar orthogonal hisoblanadi. Ular bir-biriga perpendikulyar yo‘nalishni ifodalaydi. Yuqori dimensionda orthogonallik mustaqil feature yoki basis yaratishda qo‘llanadi.
Basis
Vector space’dagi har vector basis vectorlar kombinatsiyasi orqali ifodalanadi. Coordinate tanlangan basisga bog‘liq. Neural representationda learned matrix space’ni boshqa basisga transform qiladi.
Numerical precision
FP32, FP16 yoki INT8 vector operation aniqlik va tezlikka ta’sir qiladi. Katta yig‘indi va juda kichik qiymatlarda rounding error yuz beradi. Similarity threshold quantizationdan keyin qayta kalibrlanadi.
Bog‘liq tushunchalar
Vector, Dimension, Magnitude, Dot product, Cosine similarity, Euclidean distance, Feature vector, Sparse vector, Dense vector, Embedding, Tensor