KPSS A İstatistik Nokta Tahmini ve Tahmin Edicilerin Özellikleri konu anlatımı

Nokta tahmini, bilinmeyen bir anakütle parametresini (θ) örneklem verisinden hesaplanan tek bir sayı ile tahmin etmektir. Örneklem verilerinin bir fonksiyonu olan ve rastlantı değişkeni niteliği taşıyan kurala tahmin edici (estimator), bu kuralın belirli bir örneklemde aldığı sayısal değere ise tahmin (estimate) denir. Örneğin X̄ bir tahmin edicidir; belirli bir örneklemde x̄ = 52,3 bir tahmindir.

Aynı parametre için birçok tahmin edici önerilebilir (ör. μ için ortalama, medyan, ilk ve son gözlemin ortalaması). Hangisinin "daha iyi" olduğuna karar vermek için yansızlık, etkinlik, tutarlılık ve yeterlilik ölçütleri kullanılır. Bu ölçütlerin tek bir ortak özeti hata kareler ortalaması (HKO, MSE)'dır. KPSS A İstatistik'te bu konu, verilen doğrusal tahmin edicilerin beklenen değer ve varyansının hesaplanması, S² ile σ̂² arasındaki fark ve özelliklerin kavramsal ayrımı üzerinden sorulur.

Yansızlık (sapmasızlık)

• θ̂ tahmin edicisi E(θ̂) = θ ise yansızdır.
• Yan (sapma, bias): b(θ̂) = E(θ̂) − θ.
• b(θ̂) → 0 (n → ∞) ise θ̂ asimptotik yansızdır.
• Temel sonuçlar (X₁, …, Xₙ bağımsız, E(X) = μ, Var(X) = σ²):
  • E(X̄) = μ, Var(X̄) = σ²/n → X̄, μ için yansızdır.
  • S² = Σ(Xᵢ − X̄)²/(n − 1) için E(S²) = σ² → yansız.
  • σ̂² = Σ(Xᵢ − X̄)²/n için E(σ̂²) = (n − 1)σ²/n → yanlı, yanı −σ²/n; ancak asimptotik yansız.
  • Bernoulli: p̂ = X/n yansızdır, Var(p̂) = p(1 − p)/n.
• Doğrusal tahmin ediciler: T = Σ aᵢXᵢ için E(T) = μ · Σ aᵢ ve Var(T) = σ² · Σ aᵢ². T'nin μ için yansız olması için Σ aᵢ = 1 gerekir. Yansız doğrusal tahmin ediciler içinde varyansı en küçük olan, tüm aᵢ = 1/n alınarak elde edilen X̄'dir (BLUE).

Hata kareler ortalaması

• HKO(θ̂) = E[(θ̂ − θ)²] = Var(θ̂) + [b(θ̂)]²
• Yansız tahmin edicide HKO = Var(θ̂).
• Küçük bir yan kabul edilerek varyans çok azaltılabiliyorsa yanlı bir tahmin edicinin HKO'su yansız olanınkinden küçük olabilir.

Etkinlik

• İki yansız tahmin ediciden varyansı küçük olan daha etkindir.
• Göreli etkinlik: θ̂₁'in θ̂₂'ye göre göreli etkinliği = Var(θ̂₂)/Var(θ̂₁). Değer 1'den büyükse θ̂₁ daha etkindir. Yanlı tahmin ediciler karşılaştırılırken varyans yerine HKO kullanılır.
• Cramér–Rao alt sınırı: Düzenlilik koşulları altında her yansız tahmin edici için Var(θ̂) ≥ 1/[n · I(θ)]; I(θ) tek gözlemin Fisher bilgisidir. Bu sınıra ulaşan yansız tahmin ediciye tam etkin (en küçük varyanslı yansız) tahmin edici denir.
  • Normal (σ² bilinen), μ için: sınır σ²/n → X̄ tam etkindir.
  • Poisson, λ için: I(λ) = 1/λ, sınır λ/n → X̄ tam etkindir.
• Normal anakütlede medyanın büyük örneklem varyansı yaklaşık πσ²/(2n)'dir; medyanın ortalamaya göre asimptotik göreli etkinliği (σ²/n)/(πσ²/2n) = 2/π ≈ 0,64'tür.

Tutarlılık

• n → ∞ iken her ε > 0 için P(|θ̂ₙ − θ| > ε) → 0 ise θ̂ₙ tutarlıdır (olasılıkta yakınsar).
• Yeterli koşul: HKO(θ̂ₙ) → 0; yani hem yan → 0 hem varyans → 0.
• Tutarlılık büyük örneklem özelliğidir: σ̂² yanlı olduğu hâlde tutarlıdır. Tersine, yalnızca ilk gözlemi (X₁) kullanan tahmin edici yansızdır ama varyansı n ile azalmadığından tutarsızdır.

Yeterlilik

• Örneklemin θ hakkındaki tüm bilgisini içeren istatistiğe yeterli istatistik denir.
• Faktörizasyon teoremi: f(x₁, …, xₙ; θ) = g(T(x); θ) · h(x) biçiminde yazılabiliyorsa T yeterlidir.
• Bernoulli ve Poisson için ΣXᵢ; normal dağılımda (σ² biliniyorken) μ için ΣXᵢ; U(0, θ) için X₍ₙ₎ = en büyük gözlem yeterlidir.

Örnek 1 (Doğrusal tahmin ediciler): X₁, X₂, X₃, X₄ bağımsız, ortalaması μ ve varyansı σ² olan gözlemlerdir. T₁ = (X₁ + X₂ + X₃ + X₄)/4, T₂ = (2X₁ + X₂ + X₃)/4, T₃ = (X₁ + X₄)/3

• E(T₁) = μ, E(T₂) = (2 + 1 + 1)μ/4 = μ, E(T₃) = 2μ/3 → T₁ ve T₂ yansız, T₃ yanlıdır (yanı −μ/3).
• Var(T₁) = 4σ²/16 = 0,25σ²; Var(T₂) = (4 + 1 + 1)σ²/16 = 0,375σ².
• T₁'in T₂'ye göre göreli etkinliği = 0,375σ²/0,25σ² = 1,5 → T₁ daha etkindir.

Örnek 2 (HKO): Bir tahmin edici için E(θ̂) = θ − 3 ve Var(θ̂) = 7 ise yan −3'tür ve HKO = 7 + (−3)² = 7 + 9 = 16.

Örnek 3 (S² ve σ̂²): Örneklem: 2, 4, 6, 8, 10. x̄ = 30/5 = 6; sapma kareleri 16, 4, 0, 4, 16 → toplam 40. S² = 40/4 = 10 (yansız tahmin), σ̂² = 40/5 = 8 (yanlı tahmin). σ̂²'nin yanı −σ²/n'dir; σ² yerine S² konursa yaklaşık −10/5 = −2 olarak tahmin edilir (8 = 10 − 2).

Örnek 4 (Düzgün dağılım): X ~ U(0, θ) olsun; E(X) = θ/2 ve en büyük gözlem için E(X₍ₙ₎) = nθ/(n + 1). Örneklem: 1,2; 3,5; 0,8; 4,1; 2,4 (n = 5).

• x̄ = 12/5 = 2,4 → yansız tahmin edici 2X̄ ile θ tahmini 4,8.
• X₍₅₎ = 4,1 → yansız tahmin edici (n + 1)X₍ₙ₎/n ile θ tahmini 6 · 4,1/5 = 4,92. X₍ₙ₎ tek başına yanlıdır (θ'yı küçük tahmin eder); düzeltilmiş hâli yeterli istatistiğe dayandığı için 2X̄'den daha etkindir.