☆ सहेजें Kolmogorov–Smirnov Test (KS Test) — संचयी वितरण के अंतर से दो Distribution की समानता की जाँच

07/23/2026

Kolmogorov–Smirnov Test (KS Test) एक non-parametric statistical test है, जिसका उपयोग यह जांचने के लिए किया जाता है कि दो datasets एक ही distribution से उत्पन्न हुए हैं या कोई dataset किसी निश्चित theoretical distribution का अनुसरण करता है। यह तुलना cumulative distribution function (CDF) के आधार पर की जाती है। KS Test में x के पूरे range पर दो cumulative distributions के बीच के अंतर को देखा जाता है और उनमें से सबसे बड़ा अंतर KS statistic के रूप में उपयोग किया जाता है।

इसे आसान उदाहरण से समझते हैं: मान लीजिए हमारे पास दो groups के exam scores हैं। केवल individual scores की तुलना करने के बजाय हम देखते हैं कि “70 या उससे कम score वाले कितने प्रतिशत लोग हैं” या “80 या उससे कम score वाले कितने प्रतिशत लोग हैं।” इस तरह data को cumulative form में देखने पर दो अलग-अलग curves बनते हैं। फिर x-axis पर आगे बढ़ते हुए दोनों curves के बीच की दूरी को मापा जाता है। जहां यह दूरी सबसे अधिक होती है, वही KS Test का सबसे महत्वपूर्ण अंतर होता है। यदि यह maximum gap बड़ा है, तो दोनों distributions के अलग होने का संकेत मिलता है।

x के पूरे range में दो CDF के अंतर की तुलना की जाती है और सबसे बड़ा gap KS statistic D के रूप में उपयोग किया जाता है।

कार्य सिद्धांत और मुख्य विशेषताएँ

• CDF आधारित तुलना

  • KS Test histogram की bars की ऊंचाई को सीधे compare नहीं करता। इसके बजाय यह cumulative distribution function (CDF) का उपयोग करता है, जो बताता है कि किसी x value तक data कितना जमा हुआ है।
  • Histogram का आकार इस बात से बदल सकता है कि data intervals कैसे बनाए गए हैं, लेकिन CDF cumulative view प्रदान करता है और ऐसी settings से कम प्रभावित होता है।
  • इसी कारण थोड़े noisy data या सीमित samples के साथ भी distribution comparison अधिक स्थिर रह सकता है।
  • अर्थात KS Test किसी एक छोटे हिस्से के अंतर को नहीं देखता, बल्कि पूरे distribution के cumulative pattern को समझता है।

• Maximum Distance (D Statistic)

  • जब दो CDF को x-axis के पूरे range में compare किया जाता है, तो प्रत्येक point पर दोनों के बीच कुछ अंतर दिखाई दे सकता है।
  • KS Test इन सभी अंतर को मापने के बाद केवल सबसे बड़े अंतर को चुनता है।
  • यही मान KS statistic D कहलाता है और यह दोनों distributions के बीच अंतर को दर्शाता है।
  • सरल शब्दों में, यह वह point है जहां दोनों distributions के बीच सबसे बड़ा gap दिखाई देता है।

• \[ D = \sup_x \left| F_1(x) – F_2(x) \right| \]

  \[ D = \max_x \left| F_1(x) – F_2(x) \right| \]

  F1(x) और F2(x) दो datasets के cumulative distribution functions हैं, जबकि x वह value है जिसके आधार पर तुलना की जाती है, जैसे score या age। दोनों functions के बीच का अंतर बताता है कि किसी विशेष x पर cumulative proportion कितना अलग है। sup का अर्थ है सभी संभावित x values में मिलने वाले अंतर का सबसे बड़ा मान। x-axis पर शुरुआत से अंत तक आगे बढ़ते हुए दोनों CDF के बीच vertical distance को मापा जाता है और सबसे बड़ी दूरी को D के रूप में चुना जाता है। उदाहरण के लिए यदि अलग-अलग points पर अंतर 0.08, 0.14 और 0.21 है, तो अंतिम KS statistic D = 0.21 होगा।

• Hypothesis Testing और p-value की व्याख्या

  • KS Test केवल distribution के बीच अंतर को मापने तक सीमित नहीं है, बल्कि यह यह भी जांचता है कि दिखाई देने वाला अंतर केवल random chance के कारण हो सकता है या नहीं।
  • यह शुरुआत में इस मान्यता के साथ चलता है कि दोनों distributions समान हैं।
  • इसके बाद देखा जाता है कि वर्तमान जैसा बड़ा अंतर सामान्य परिस्थितियों में कितनी बार दिखाई दे सकता है।
  • इसलिए KS Test का उद्देश्य केवल “अंतर मौजूद है” बताना नहीं है, बल्कि यह समझना है कि यह अंतर संयोग से संभव है या नहीं।

• p-value का सहज अर्थ

  • p-value यह बताता है कि यदि दोनों distributions को समान माना जाए, तो वर्तमान जैसा बड़ा अंतर मिलने की संभावना कितनी है।
  • यह observed difference के केवल random variation होने की संभावना को एक numerical value के रूप में दिखाता है।
  • p-value बड़ा होने पर → ऐसा अंतर संयोग से भी आ सकता है → distributions को समान मानना उचित हो सकता है।
  • p-value छोटा होने पर → इतना बड़ा अंतर केवल chance से आना कठिन है → दोनों distributions अलग होने की संभावना अधिक होती है।

• One-sample और Two-sample KS Test

  • One-sample KS Test का उपयोग यह जांचने के लिए किया जाता है कि कोई dataset किसी निश्चित theoretical distribution को follow करता है या नहीं।
  • Two-sample KS Test दो अलग-अलग data samples के distributions की तुलना करता है।
  • Machine Learning में अक्सर training data और वास्तविक production input data के बीच तुलना के लिए इसका उपयोग किया जाता है।
  • इसी कारण practical ML systems में Two-sample KS Test अधिक सामान्य रूप से उपयोग किया जाता है।

• Data Drift Detection में उपयोग

  • KS Test का उपयोग training data और production data के feature distributions की तुलना करने के लिए किया जाता है।
  • यदि KS statistic बड़ा हो और साथ ही p-value छोटा हो, तो यह संकेत हो सकता है कि data distribution बदल गया है।
  • ऐसा बदलाव model performance degradation का कारण बन सकता है।
  • इसी वजह से KS Test को MLOps systems में एक महत्वपूर्ण monitoring metric के रूप में उपयोग किया जाता है।

• व्यावहारिक उदाहरण (Production Data)

  • मान लीजिए training के समय customers की age distribution और वर्तमान में आने वाले customers की age distribution की तुलना की जाती है।
  • किसी विशेष age value तक cumulative ratio पुराने और नए data में काफी अलग हो सकता है।
  • यही maximum difference KS statistic के रूप में दर्ज किया जाता है।
  • यदि यह अंतर बड़ा है और इसे केवल random variation से नहीं समझाया जा सकता, तो यह संकेत हो सकता है कि service environment बदल चुका है।

महत्त्व और सीमाएँ

KS Test की प्रमुख उपयोगिता यह है कि यह किसी specific distribution shape की assumption के बिना दो datasets के अंतर को उनके cumulative behavior के आधार पर compare कर सकता है। इसी कारण यह data drift detection और model validation जैसे कार्यों में एक प्रभावी tool के रूप में उपयोग किया जाता है। इसका परिणाम histogram की bin settings से कम प्रभावित होता है और distribution difference को maximum distance जैसे स्पष्ट मान में प्रस्तुत करता है। हालांकि multivariate data पर इसे सीधे लागू करना आसान नहीं होता, और इसकी sensitivity sample size के अनुसार बदल सकती है। इसके अलावा KS Test यह बता सकता है कि distributions कहां अलग हैं, लेकिन यह नहीं बताता कि अंतर का वास्तविक कारण क्या है। इसलिए KS Test को एक मजबूत initial diagnostic method के रूप में उपयोग करना चाहिए और root cause analysis के लिए अन्य techniques के साथ मिलाकर आगे बढ़ना बेहतर होता है।

पहले पढ़ने के लिए सुझाए गए लेख (3/5)

+2

• One-sample बनाम Two-sample KS Test — CDF के अधिकतम अंतर से Distribution तुलना का सिद्धांत
• Hypothesis Testing — यह समझने की सांख्यिकीय प्रक्रिया कि observed difference संयोग है या वास्तविक signal
• Type II Error (द्वितीय प्रकार की त्रुटि) — वास्तविक प्रभाव को पहचान न पाने वाली परीक्षण त्रुटि

• Type I Error (प्रकार 1 त्रुटि) — जब बिना वास्तविक प्रभाव के भी प्रभाव की खोज मान ली जाती है
• Test Statistic — नमूना अंतर को Standardize करके सांख्यिकीय निर्णय लेने का आधार

आगे पढ़ने के लिए सुझाए गए लेख (5/18)

+5

• A/B Testing — दो विकल्पों के प्रदर्शन अंतर को वैज्ञानिक तरीके से मापने की प्रक्रिया
• One-sided Test बनाम Two-sided Test — Rejection Region कैसे बदलता है Statistical Conclusion
• Pairplot — कई variables के distribution और relationships को एक साथ समझने का EDA tool
• Feature Distribution Statistics — डेटा के वितरण को समझकर preprocessing और model validation के लिए सही दिशा तय करना
• Feature Drift — समय के साथ feature distribution में बदलाव से model की निर्णय क्षमता प्रभावित होना

• Data Drift — Input Data Distribution में बदलाव के कारण Model Performance में गिरावट
• Interquartile Range (IQR) — केंद्रीय 50% डेटा सीमा से Data Spread और Outlier Detection को समझने का प्रभावी तरीका
• Kurtosis — चरम मानों और डेटा वितरण की संरचना को समझने वाला सांख्यिकीय माप
• Skewness — डेटा वितरण के झुकाव को समझकर असंतुलन और मॉडल प्रभाव का विश्लेषण करने का तरीका
• Robust Scaling — Median और IQR के माध्यम से Outlier के प्रभाव को कम करने वाली Data Scaling तकनीक

• Exploratory Data Analysis (EDA) — मॉडल बनाने से पहले डेटा को समझने की व्यवस्थित प्रक्रिया
• Multicollinearity — रैखिक निर्भरता से Regression Coefficients अस्थिर क्यों हो जाते हैं
• Density Plot — डेटा वितरण को सहज कर्व के माध्यम से समझने की तकनीक
• Weighted Average — जब हर डेटा बिंदु का प्रभाव बराबर नहीं होता
• Standard Scaling (StandardScaler) — Mean और Standard Deviation के आधार पर Data Normalization की तकनीक
• Boxplot — Quartile और IQR के माध्यम से डेटा वितरण और Outlier का प्रभावी विश्लेषण
• Scatter Plot — दो variables के बीच संबंध और patterns को समझने का प्रभावी तरीका
• Interpolation और Extrapolation — Prediction की विश्वसनीयता में अंतर क्यों आता है

इसी विषय के लेख (0/0)

इस अनुभाग में अभी कोई अन्य लेख नहीं है।

संबंधित अवधारणाएँ (0/0)

अभी संबंधित अवधारणाओं पर कोई लेख नहीं है।

📍 AI सीखने के नक्शे में इस अवधारणा की जगह

देखें कि यह अवधारणा पूरे AI Universe में कहाँ स्थित है।

📍 AI Universe में वर्तमान स्थान

☰

रीसेट पूर्ण किए गए दिखाएँ · लॉगिन आवश्यक लोड हो रहा है…

🌌 AI Universe

‹

›

⭐ अवधारणा

कोई तारा चुनें।

पूरा AI Universe देखें

« Information Leakage — Pr…|Learning Rate Range Test… »

🔖 टैग: CDF · distribution-analysis · hypothesis testing · kolmogorov smirnov test · ks test · Non Parametric Test · Statistics