가능도(Likelihood)
vs 확률(Probability)
이산사건의 확률: 동전
- 10번 던질 때 앞면나오는 횟수 \(n\)
- 확률은 \(p = _{10}C_{n}\frac{1}{2}^n\frac{1}{2}^{10-n} = _{10}C_{n}\frac{1}{2}^{10}=\frac{_{10}C_{n}}{1024}\)
이산사건의 확률 = 가능도
- 총 사건의 갯수를 셀 수 있음(ex: 6, 11개).
- 따라서 각 확률을 계산가능(합=1).
- 확률 = 가능도 로 정의.
PDF 예시: 실수 뽑기
- PDF: 1 ~ 6 은 모두 0.2, 나머지는 0.
- 2 ~ 4 가 뽑힐 확률은 \(2\times 0.2 = 0.4\).
1 ~ 6의 숫자 뽑기
PDF 예시: 표준정규분포
- 평균 0, 분산 1 인 정규분포
- PDF는 \(\frac{1}{\sqrt{2\pi}}e^{-z^2/2}\)
- \(z\)가 특정 값일 확률은 전부 0
- -1.96 ~ 1.96 일 확률은 0.95: p-value
표준정규분포 PDF
표준정규분포: 특정사건 비교는 포기?
- \(z\) 가 -2, 0, … 999 등 특정 숫자일 확률은 모두 0
- 따라서 각 사건의 발생가능성 차이는 없다? But
- 가장 솟아 있는 0 근처가 가능성 높고, 0에서 멀어질수록 가능성이 낮음을 느끼고있다.
- 확률 은 연속사건의 가능성 차이를 나타낼 수 없음
표준정규분포의 PDF
가능도 in 연속사건: 특정 사건의 가능성
PDF값을 가능도로 정의.
- 가능도의 직관적인 정의 : 확률밀도함수의 \(y\)값 (PDF)
- 이산사건: 확률 = 가능도
- 연속사건: 확률 \(\neq\) 가능도 => PDF값 = 가능도
이산사건: 모양이 일그러진 동전
- 앞면확률 \(p \neq 0.5\), 알려면 실제 던져봐야..
- 1000번 던져 앞면 400번 나왔다면 \(p=0.4\)?
- 이 사건이 일어날 가능성 \(L=_{1000} C_{400}p^{400}(1-p)^{600}\)
- 가능성 \(L\)을 최대(MLE)로 만드는 \(p=0.4\)
- 일그러진 동전의 앞면나올 확률은 0.4라고 추정. 직관과 일치
동전 앞면이 나올 확률 \(p\)에 따른 가능도 \(L\)
연속사건: 키
5번 측정결과 178, 179, 180, 181, 182(cm) 일때 실제 키는 평균값?
가정: 키측정은 정규분포를 따른다(평균 \(\mu\), 분산 \(\sigma^2\))
측정값 \(x\)에 해당하는 가능도 = \(\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}\)
위 5번 측정결과가 나타날 가능성 \(L\) \(=\frac{1}{\sqrt{2\pi}\sigma^2}e^{-\frac{(178-\mu)^2}{2\sigma^2}}\times\frac{1}{\sqrt{2\pi}\sigma^2}e^{-\frac{(179-\mu)^2}{2\sigma^2}}\times\frac{1}{\sqrt{2\pi}\sigma^2}e^{-\frac{(180-\mu)^2}{2\sigma^2}}\times\frac{1}{\sqrt{2\pi}\sigma^2}e^{-\frac{(181-\mu)^2}{2\sigma^2}}\times\frac{1}{\sqrt{2\pi}\sigma^2}e^{-\frac{(182-\mu)^2}{2\sigma^2}}\)
\(L\)이 최대이려면 \((178-\mu)^2+(179-\mu)^2+(180-\mu)^2+(181-\mu)^2+(182-\mu)^2\)이 최소여야 함. \(\mu=180\)일 때 최소.
실제 키에 따른 가능도 \(L\)
Conclusion
셀 수 있는 사건 : 확률 = 가능도
셀 수 없는 사건 中 특정 사건이 일어날 확률 = 0
셀 수 없는 사건 : PDF값 = 가능도
진실을 찾는 방법 : 최대가능도 추정량(Maximum Likelihood Estimator, MLE)
