Computer Science/확률과 통계

조건부 이산 확률 변수, 확률 질량 함수, 기댓값

mitdog 2024. 7. 16. 18:14

DRV의 조건부 성질에 대해 알아보겠다.

조건부 확률 질량 함수(Conditional PMF)

다음 두 조건이 만족하면,

  • X is DRV
  • Event A with P(A) > 0

조건부 확률 질량 함수임이 자명하다.
$$p_{X|A}(x) = \frac{P({X=x}\cap A)}{P(A)}$$
그렇다면 조건부 확률 질량 함수(이하 Conditional PMF)도 정확하게 PMF인지 확인을 해보자.

Is Conditional PMF legitimate?

P(X=x)들은 서로 partition of $\Omega$ 이다.
혹시 집합의 분할이 가지는 의미를 까먹었을까봐 적어두겠다.

 

<집합의 분할 집합이 가지는 의미>

  1. 서로 disjoint하다
  2. 전부 합치면 표본 공간($\Omega$)이다.

=> 위 두개가 의미하는건 또, 전 확률 정리(total probability theorem)를 쓸 수 있다는 것이다.

그래서 P(A) = $\sum_{x}{}P({X=x}\cap A)$에서
P({X=x})가 집합의 분할(partition of $\Omega$)이기 때문에
다음과 같은 그림으로 인해



$\sum_{x}{} p_{X|A}(x) = \frac{P(A)}{P(A)}= 1$이 성립함을 알 수 있다.

그 말은 $p_{X|A}(x)$가 PMF라는 것이다.

조건부 DRV on DRV(Conditioning a DRV on Another DRV)

Event Y = y(with $P_Y(y) > 0$) is given.
그렇다면 Y가 일어났을 때 X의 확률 질량 함수는?
그냥 A가 Y=y로 바뀐 느낌이다. (참고: 콤마(,)는 $\cap$(and)와 같다)
$$p_{X|A}(x|y) = P(X=x|Y=y) = \frac{p_{X, Y}(x, y)}{p_Y(y)}$$

Example) Y가 given일 때, PMF인지 확인하기 (Y = 4 예시로 확인)

조건부 기댓값(Conditional Expectation)

Event A가 일어났을 때, X의 기댓값은? (P(A) > 0)
$$E[X|A] = \sum_{x}{} xp_{X|A}(x)$$
Y=y가 일어났을 때, X의 기댓값은? ($p_Y(y) > 0$)
$$E[X|Y=y] = \sum_{x}{}p_{X|Y}(x|y)$$

조건부 기댓값의 속성

I. $E[g(X)|A] = \sum_{x}{}g(x)p_X|A(x)$
II. Law of Total Expectation : $E[X] = \sum_{i}{}P(A_i)E[X|A_i]$
III. $E[X|B] = \sum_{i}{}P(A_i|B)E[X|A_i\cap B]$
IV. $E[X] = \sum_{y}{}p_Y(y)E[X|Y=y]$

Law of Total Expectation 증명

Example)

r(X) = {M, B, 자} (Metro, Bus, 자전거)
P(X=x)는 각 교통수단으로 학교에 올 확률.
X=M : 0.3
X=B : 0.1
X=자 : 0.6
그리고 T는 학교 오는데 걸리는 시간 PMF라고 하자,
E[T|M] = 20
E[T|B] = 30
E[T|자] = 40

그렇다면 E[T]의 구하시오.

 

=> 위에서 보였던 Law of total Expectation을 사용하면 한 번에 나온다.