Throughput — tizim ma’lum vaqt ichida muvaffaqiyatli qayta ishlagan ish birliklari soni. Web xizmatda requests per second, ma’lumot oqimida records per second, tarmoqda bit/s yoki byte/s, tranzaksion tizimda transactions per second bilan o‘lchanadi. Birlik va “muvaffaqiyatli” mezoni ko‘rsatilmasa, throughput qiymati to‘liq ma’no bermaydi.
Throughput va bandwidth
Bandwidth kanalning nazariy yoki konfiguratsion uzatish sig‘imini bildiradi, throughput esa amalda yetkazilgan foydali oqimdir. Protokol sarlavhalari, retransmission, congestion va qurilma ishlovi sabab throughput bandwidthdan past bo‘ladi. Goodput esa aynan foydali application payload tezligini ajratishi mumkin.
Masalan, 1 Gbit/s Ethernet linkda IP va TCP sarlavhalari, framing hamda pauzalar mavjud. Disk yoki server 300 Mbit/s dan tez bera olmasa, link bandwidthi yuqori bo‘lsa ham end-to-end throughput shu bottleneck bilan cheklanadi.
Latency bilan munosabati
Throughput va latency bir xil metrika emas. Tizim parallelizm bilan sekundiga ko‘p so‘rov yakunlashi, lekin har bir so‘rov uzoq kutishi mumkin. Little qonunining barqaror tizimdagi sodda ko‘rinishi L = λW: tizimdagi o‘rtacha ish soni throughput va o‘rtacha vaqt ko‘paytmasiga teng.
Yuk past bo‘lganda throughput taklif qilingan trafik bilan birga oshadi. Saturationga yetgach CPU, disk, lock, connection pool yoki downstream limit to‘ladi. Qo‘shimcha yuk queue ni va latency ni oshiradi, throughput esa tekislanadi yoki thrashing sabab kamayadi.
O‘lchash usuli
O‘lchov oynasi juda qisqa bo‘lsa burst qiymati barqaror sig‘im sifatida ko‘rinadi. Uzoq oyna esa qisqa degradatsiyani yashiradi. Hisobotda interval, warm-up, sinov davomiyligi, parallel client soni va workload aralashmasi beriladi.
Faqat yuborilgan so‘rovlar soni emas, yakunlangan muvaffaqiyatli ish hisoblanadi. Server tez 500 qaytarsa requests per second yuqori ko‘rinishi mumkin, ammo foydali throughput past. Retrylar ham alohida sanaladi; bitta biznes amali bir nechta transport so‘roviga aylanishi mumkin.
Taqsimlangan tizimda
Pipeline throughputi ko‘pincha eng sekin bosqich bilan cheklanadi. Queue vaqtincha farqni yutadi, ammo producer doim consumerdan tez bo‘lsa backlog uzluksiz o‘sadi. Backpressure upstream oqimini sekinlashtiradi yoki qabulni rad etadi.
Sharding ishni parallel tugunlarga bo‘lib throughputni oshirishi mumkin. Lekin koordinatsiya, hotspot kalit, shared database va tarmoq xarajati sabab o‘sish chiziqli emas. Amdahl qonuni parallel bo‘lmaydigan qism maksimal speedupni cheklashini ko‘rsatadi.
Capacity planning
Production throughput vaqt bo‘yicha taqsimlanadi: o‘rtacha, peak va burst alohida. Tizim maksimal nuqtada doimiy ishlatilmaydi; failover, deploy va noodatiy trafik uchun headroom qoldiriladi. Bir node sig‘imi benchmark bilan o‘lchanib, replikalar soni, autoscaling threshold va downstream quota bilan birga rejalashtiriladi.
Throughput oshishi sifatning yaxshilanishini anglatmaydi. p95/p99 latency, xato ulushi, resurs narxi va data correctness birga baholanadi. Batch kattalashtirish records/s ni oshirib, har bir yozuvning kutish vaqtini uzaytirishi mumkin.
Backlog bilan hisoblash
Consumer throughputi producer tezligidan past bo‘lsa, backlog o‘sish tezligi ularning farqiga tenglashadi. Masalan, sekundiga 1200 yozuv kelib, 1000 tasi ishlansa, navbat taxminan 200 yozuv/s ga kattalashadi. Consumer lag faqat yozuv sonida emas, vaqt bo‘yicha ham o‘lchanadi. Yozuvlar hajmi turlicha bo‘lsa, records/s bilan birga bytes/s va ish murakkabligi kuzatiladi.
Bog‘liq tushunchalar
Latency, Bandwidth, Goodput, Bottleneck, Backpressure, Little’s law