KPSS A İstatistik En Çok Olabilirlik ve Momentler Yöntemi konu anlatımı

Nokta tahmini konusunda "iyi" bir tahmin edicinin özellikleri (yansızlık, etkinlik, tutarlılık) incelenir. Bu konuda ise tahmin edicilerin nasıl bulunacağı ele alınır. KPSS A İstatistik'te iki klasik yöntem sorulur:

• En çok olabilirlik yöntemi (EÇO, maximum likelihood): Gözlenen örneklemi elde etme olasılığını (olabilirliği) en büyük yapan parametre değeri tahmin olarak seçilir.
• Momentler yöntemi (MY): Anakütle momentleri (E(X), E(X²), …) örneklem momentlerine eşitlenir ve oluşan denklemler parametreler için çözülür.

Sorular genellikle belirli bir dağılım için tahmin edicinin formülünü bulma, verilen bir veri setinden sayısal tahmin hesaplama ve EÇO tahmin edicilerinin özelliklerini (değişmezlik, asimptotik normallik) yorumlama biçimindedir.

Olabilirlik fonksiyonu

• X₁, …, Xₙ bağımsız ve f(x; θ) yoğunluğuna (ya da olasılık fonksiyonuna) sahip olsun. Olabilirlik fonksiyonu: L(θ) = f(x₁; θ) · f(x₂; θ) · … · f(xₙ; θ).
• Hesap kolaylığı için log-olabilirlik ℓ(θ) = ln L(θ) kullanılır; ln artan bir fonksiyon olduğundan L ile ℓ aynı noktada en büyük olur.
• Olabilirlik denklemi (skor denklemi): dℓ/dθ = 0 çözülür; ikinci türevin negatif olduğu kontrol edilir.
• Uyarı: Destek (tanım aralığı) parametreye bağlıysa (ör. U(0, θ)) türev yöntemi çalışmaz; L(θ) doğrudan incelenir.

Sık kullanılan EÇO tahmin edicileri

• Normalde σ²'nin EÇO tahmin edicisi n paydalıdır ve yanlıdır; yansız S² ise n − 1 paydalıdır.

EÇO tahmin edicilerinin özellikleri

• Değişmezlik (invariance): θ̂, θ'nın EÇO tahmin edicisi ise g(θ)'nın EÇO tahmin edicisi g(θ̂)'dır. Ör. Poisson'da P(X = 0) = e^(−λ)'nın EÇO'su e^(−X̄)'dir; normalde σ'nın EÇO'su √σ̂²'dir.
• Her zaman yansız olmak zorunda değildir (σ̂² ve X₍ₙ₎ örneklerinde olduğu gibi), ancak düzenlilik koşulları altında tutarlı, asimptotik yansız, asimptotik normal ve asimptotik etkindir.
• Büyük örneklemde θ̂ ≈ N(θ, 1/[n·I(θ)]); I(θ) tek gözlemin Fisher bilgisidir. Ör. Poisson için I(λ) = 1/λ → Var(λ̂) ≈ λ/n; Bernoulli için I(p) = 1/[p(1 − p)] → Var(p̂) ≈ p(1 − p)/n.
• Yeterli bir istatistik varsa EÇO tahmin edicisi onun fonksiyonudur.

Momentler yöntemi

• r'inci örneklem momenti: m′ᵣ = (1/n)·ΣXᵢʳ. Parametre sayısı kadar moment eşitlenir: E(X) = X̄, E(X²) = m′₂, …
• İkinci moment eşitliği, varyans için σ̃² = m′₂ − X̄² = Σ(Xᵢ − X̄)²/n (n paydalı) sonucunu verir.
• Örnekler:
  • U(0, θ): E(X) = θ/2 → θ̃ = 2X̄.
  • Poisson, Bernoulli, normal: MY ve EÇO aynı tahmin edicileri verir.
  • Gamma(α, β) (ölçek β): E(X) = αβ, Var(X) = αβ² → β̃ = σ̃²/X̄, α̃ = X̄²/σ̃².
  • f(x) = θx^(θ−1), 0 < x < 1: E(X) = θ/(θ + 1) → θ̃ = X̄/(1 − X̄).
• MY kolaydır ve tutarlıdır; ancak genellikle EÇO kadar etkin değildir ve parametre uzayı dışına düşen tahminler üretebilir (ör. U(0, θ)'da 2x̄, en büyük gözlemden küçük çıkabilir).

Örnek 1 – Poisson ve değişmezlik

Bir kavşakta 5 günde gözlenen kaza sayıları: 2, 0, 3, 1, 4.

• λ̂ = x̄ = 10/5 = 2.
• Hiç kaza olmayan gün olasılığı P(X = 0) = e^(−λ)'nın EÇO tahmini: e^(−2) ≈ 0,1353 (değişmezlik özelliği).

Örnek 2 – Üstel dağılım

Bir cihazın arızalar arası süreleri (saat): 3, 5, 2, 6. Süreler Üstel(λ) dağılımına uymaktadır.

• ℓ(λ) = n·ln λ − λ·Σxᵢ → dℓ/dλ = n/λ − Σxᵢ = 0 → λ̂ = n/Σxᵢ = 1/x̄.
• x̄ = 16/4 = 4 → λ̂ = 0,25 (saatte arıza oranı); ortalama sürenin EÇO tahmini 4 saattir.

Örnek 3 – U(0, θ): EÇO ve MY karşılaştırması

Veriler: 2,1; 4,7; 3,3; 1,9.

• L(θ) = 1/θⁿ, ancak yalnızca θ ≥ tüm gözlemler iken; bu aralıkta L azalan olduğundan θ̂ = en büyük gözlem = 4,7.
• MY: x̄ = 12/4 = 3 → θ̃ = 2x̄ = 6.

Örnek 4 – Gamma için momentler yöntemi

Bir örneklemde x̄ = 6 ve σ̃² = Σ(xᵢ − x̄)²/n = 12 bulunmuştur. Gamma(α, β) (ölçek) varsayılıyor.

• β̃ = σ̃²/x̄ = 12/6 = 2, α̃ = x̄²/σ̃² = 36/12 = 3.
• Kontrol: αβ = 6 = x̄, αβ² = 12 = σ̃².

Örnek 5 – Normal dağılımda σ²

Veriler: 4, 6, 8, 10, 12 → x̄ = 8; sapma kareleri toplamı 16 + 4 + 0 + 4 + 16 = 40.

• EÇO: σ̂² = 40/5 = 8 (yanlı). Yansız tahmin: S² = 40/4 = 10.
• σ'nın EÇO tahmini √8 ≈ 2,83'tür (değişmezlik).