[수리통계] 조건부 분포와 조건부 기댓값

1. 조건부 분포(Conditional Distribution)

조건부 분포는 한 변수가 주어졌을 때 다른 변수의 확률 분포를 나타냅니다. 조건부 분포는 주어진 조건 하에서의 확률을 계산하거나 예측하는 데 사용됩니다. 결합분포를 가지는 두 개의 변수 X와 Y가 있을 때, Y의 값이 주어졌을 때 X의 조건부 분포는 P(X|Y)로 표기됩니다. 이는 Y가 어떤 값을 가질 때 X가 어떤 값을 가질 확률을 나타냅니다. 예를 들어, Y가 나이, X가 키인 경우, P(X|Y)는 특정한 나이에 대한 키의 분포를 의미합니다. 

 

조건부 분포는 아래와 같은 식으로 나타낼 수 있습니다. 

$$P(X|Y)=\frac{P_{XY}(X,Y)}{P_Y(Y)}$$

 

확률질량함수 또는 확률밀도함수는 아래와 같이 나타낼 수 있습니다. 

$$\begin{aligned} & f_{Y \mid X}(y \mid x)=\frac{f_{XY}(x, y)}{f_X(x)} \\ & f_{X \mid Y}(x \mid y)=\frac{f_{XY}(x, y)}{f_Y(y)} \\ \end{aligned}$$

 

2. 조건부 기댓값(Conditional Expectation)

조건부 기댓값(conditional expectation)은 주어진 조건 아래에서의 기댓값을 의미합니다. 이를 구하려면 결합분포→주변분포→조건부분포→조건부 기댓값의 순으로 차근차근 찾아나가면 됩니다. 조건부 기댓값은 다음과 같은 수식으로 계산됩니다. 

 

1) X=x일 때 Y의 조건부 평균

$$\begin{aligned} E(Y \mid x)= \begin{cases}\sum_yy f(y \mid x) & \text { (이산형) } \\ \int_{-\infty}^{\infty} y f(y \mid x) d y & \text { (연속형) }\end{cases} \\ \end{aligned}$$

 

2) X=x일 때 u(x,Y)의 조건부 평균

$$\begin{aligned} & E(u(X, Y) \mid x)= \begin{cases}\sum_yu(x, y) f(y \mid x) & \text { (이산형) } \\ \int_{-\infty}^{\infty} u(x, y) f(y \mid x) d y & \text { (연속형) }\end{cases} \\ \end{aligned}$$

 

3) X=x일 때 Y의 조건부 분산

$$\begin{aligned} & \sigma_{Y \mid x}^2=E\left((Y-E(Y \mid x))^2 \mid x\right)=E\left(Y^2 \mid x\right)-(E(Y \mid x))^2 \\ \end{aligned}$$

 

조건부 기댓값과 관련해 기억해두면 좋을 몇 가지 성질을 아래 정리해둡니다.

• $E(a X+b Y+c \mid Z=z)=a E(X \mid z)+b E(Y \mid z)+c$
• $E(E(Y \mid X))=E(Y)$
• $E(E(u(X, Y) \mid X))=E(u(X, Y))$
• $E(g(X) Y \mid X=x)=g(x) E(Y \mid x)$
• $\sigma_Y^2=\operatorname{Var}(Y)=E(\operatorname{Var}(Y \mid X))+\operatorname{Var}(E(Y \mid X))$