Maximum Likelihood Estimation
βνλ₯ κ³Ό ν΅κ³(MATH230)β μμ μμ λ°°μ΄ κ²κ³Ό 곡λΆν κ²μ μ 리ν ν¬μ€νΈμ λλ€. μ 체 ν¬μ€νΈλ Probability and Statisticsμμ νμΈνμ€ μ μμ΅λλ€ π²
IntroductionPermalink
<MLE; Maximum Likelihood Estimation>μ μ§κΈκΉμ§μ μ κ·Όλ²κ³Όλ μ¬λ λ€λ₯Έ μ κ·Ό λ°©μμ΄λ€. <MLE>λ statistical inferenceλ₯Ό μννλ λ§μ μ κ·Όλ² μ€ νλλ‘, statistical approachμ μλ‘μ΄ μ² νκ³Ό μμΌλ₯Ό μ 곡νλ€ π
Example.
νλ₯
μμμ λ°°μ΄ <proportion estimation>μ λ°©λ²μΌλ‘ μ κ·Όνλ©΄,
μ΄λ²μλ <MLE>μ λ°©μμΌλ‘ μ κ·Όν΄λ³΄μ! λ¨Όμ 10μ λμ λμ§κΈ°κ° μμ κ°μ΄ λμ¬ νλ₯ μ μλμ κ°λ€.
μμ μμ λ€μ μ°λ©΄,
μ΄μ , μ΄ ν¨μ
μ¦,
μ΄μ <MLE>λ₯Ό μνμ μΌλ‘ μ λ¦¬ν΄ λ€μ μ΄ν΄λ³΄μ!
MLE; Maximum Likelihood EstimationPermalink
Theorem. MLE for Bernoulli case
Let
Then, the likelihood function
Take log on it!
Take derivative for
when solve the equation, then
Theorem. MLE for Normal case
Let
Find the MLE of
Take log on it!
Take derivative for
when solve the equation, then
μ΄μ λ€μ ν¬μ€νΈλΆν° ν΅κ³νμ κ½πΉμ΄λΌκ³ ν μ μλ <κ°μ€ κ²μ ; Hypothesis Tests>μ λν΄ λ€λ£¬λ€!! π μ°λ¦¬κ° μ§κΈκΉμ§ μνν βμΆμ (Estimation)βμ νμ©ν΄ μμ¬κ²°μ μ λ΄λ¦¬λ κ²μ΄ λ°λ‘ <Hypothesis Test>λ€!