합의 법칙, 곱의 법칙, 그리고 베이즈 정리
우리는 확률론을 논리적 추론(logical reasoning)의 확장으로 생각한다. 6.1.1절에서 논의했듯이, 여기에 제시된 확률의 규칙들은 요구 조건(desiderata)을 충족시키는 것으로부터 자연스럽게 도출된다 (Jaynes, 2003, chapter 2). 확률적 모델링(8.4절)은 머신러닝 방법을 설계하기 위한 원칙적인 토대를 제공한다. 데이터와 우리 문제의 불확실성에 대응하는 확률 분포(6.2절)를 정의하고 나면, 오직 두 가지 근본적인 규칙인 합의 법칙(sum rule)과 곱의 법칙(product rule)만이 존재함이 밝혀진다.
$\quad$ (6.9)식에서 $p(\boldsymbol{x}, \boldsymbol{y})$ 가 두 확률 변수 $\boldsymbol{x}, \boldsymbol{y}$ 의 결합 분포(joint distribution)였음을 상기해 보자. 분포 $p(\boldsymbol{x})$ 와 $p(\boldsymbol{y})$ 는 그에 대응하는 주변 분포(marginal distributions)이며, $p(\boldsymbol{y} \mid \boldsymbol{x})$ 는 $\boldsymbol{x}$ 가 주어졌을 때 $\boldsymbol{y}$ 의 조건부 분포(conditional distribution)이다. 6.2절에서 이산 및 연속 확률 변수에 대한 주변 확률과 조건부 확률의 정의가 주어졌으므로, 이제 우리는 확률론의 두 가지 근본적인 규칙을 제시할 수 있다.
$\quad$ 첫 번째 규칙인 합의 법칙(sum rule)은 다음과 같이 명시한다.
여기서 $\mathcal{Y}$ 는 확률 변수 $Y$ 의 목표 공간의 상태들이다. 이는 우리가 확률 변수 $Y$ 의 상태 집합 $\boldsymbol{y}$ 를 합산하여 소거하거나(sum out) 적분하여 소거한다(integrate out)는 것을 의미한다. 합의 법칙은 주변화 성질(marginalization property)로도 알려져 있다. 합의 법칙은 결합 분포를 주변 분포와 연관 짓는다. 일반적으로 결합 분포가 두 개 이상의 확률 변수를 포함할 때, 합의 법칙은 확률 변수들의 임의의 부분집합에 적용될 수 있으며, 그 결과 잠재적으로 하나 이상의 확률 변수에 대한 주변 분포를 도출한다. 더 구체적으로, 만약 $\boldsymbol{x} = [x_1, \dots, x_D]^\top$ 라면, 우리는 다음과 같은 주변 분포를 얻는다.
이는 $x_i$ 를 제외한 모든 확률 변수들을 적분/합산하여 소거하는 합의 법칙을 반복적으로 적용함으로써 도출되며, 여기서 $x_i$ 를 제외한 모든 변수라는 것은 $\setminus i$ 로 표시되고 “ $i$ 를 제외한 모두(all except $i$ )”라고 읽는다.
$\to$ 기하학적으로, 이는 $D$ 차원의 확률 밀도를 단 하나의 1차원( $x_i$ 축) 위로 투영시키는 선형 변환과 동일하다.
주목 (Remark). 확률적 모델링의 계산적 어려움(computational challenges) 중 상당수는 이 합의 법칙의 적용에서 기인한다. 변수가 많거나 상태가 많은 이산 변수들이 존재할 때, 합의 법칙은 결국 고차원 합산 또는 고차원 적분을 수행하는 문제로 귀결된다. 고차원 합산이나 적분을 정확하게 계산하는 다항 시간 알고리즘(polynomial-time algorithm)이 알려져 있지 않다는 점에서, 이를 수행하는 것은 일반적으로 계산상 난해하다(computationally hard).
$\to$ 모델의 파라미터를 추론하기 위해 잠재 변수 $\boldsymbol{z}$ 를 소거하려고 $p(\boldsymbol{x}) = \int p(\boldsymbol{x}, \boldsymbol{z}) d\boldsymbol{z}$ 를 계산해야 한다고 가정해보자. 만약 $\boldsymbol{z}$ 가 $1000$ 차원의 벡터라면, 우리는 $1000$ 중 정적분을 수행해야 한다. 차원의 저주로 이 공간의 부피는 폭발적이며, 이때 해석적 해를 계산하는 것은 intractable하다. 때문에, ELBO와 같은 수학적 하한선을 정의하여 적분을 근사 최적화 문제로 치환하거나, MCMC 샘플링을 통해 무작위 추출로 적분값을 역산하는 통계적 근사법을 사용한다.
$\quad$ 두 번째 규칙인 곱의 법칙(product rule)은 다음 식을 통해 결합 분포를 조건부 분포와 연관 짓는다.
곱의 법칙은 두 확률 변수의 모든 결합 분포가 두 개의 다른 분포들의 곱으로 인수분해(factorized, 곱으로 쓰임)될 수 있다는 사실로 해석될 수 있다. 두 인수는 첫 번째 확률 변수의 주변 분포 $p(\boldsymbol{x})$ 와, 첫 번째 변수가 주어졌을 때 두 번째 확률 변수의 조건부 분포 $p(\boldsymbol{y} \mid \boldsymbol{x})$ 이다. $p(\boldsymbol{x}, \boldsymbol{y})$ 에서 확률 변수의 순서는 임의적이므로, 곱의 법칙은 $p(\boldsymbol{x}, \boldsymbol{y}) = p(\boldsymbol{x} \mid \boldsymbol{y})p(\boldsymbol{y})$ 역시 암시한다. 정확히 말하자면, (6.22)는 이산 확률 변수에 대한 확률 질량 함수로 표현되었다. 연속 확률 변수의 경우, 곱의 법칙은 확률 밀도 함수로 표현된다 (6.2.3절).
$\quad$ 머신러닝과 베이지안 통계학에서 우리는 다른 확률 변수들을 관측했다는 조건 하에 관측되지 않은 (잠재) 확률 변수들을 추론하는 데 종종 관심을 가진다. 관측되지 않은 확률 변수 $\boldsymbol{x}$ 에 대한 어떤 사전 지식 $p(\boldsymbol{x})$ 가 있고, $\boldsymbol{x}$ 와 우리가 관측할 수 있는 두 번째 확률 변수 $\boldsymbol{y}$ 사이에 어떤 관계 $p(\boldsymbol{y} \mid \boldsymbol{x})$ 가 있다고 가정해 보자. 만약 우리가 $\boldsymbol{y}$ 를 관측한다면, 관측된 $\boldsymbol{y}$ 의 값들이 주어졌을 때 $\boldsymbol{x}$ 에 대한 어떤 결론을 도출하기 위해 베이즈 정리를 사용할 수 있다. 베이즈 정리(Bayes’ theorem, 베이즈 규칙 또는 베이즈 법칙이라고도 함)는 다음과 같다.
이것은 다음 식들로 인해 (6.22)의 곱의 법칙에서 직접적으로 도출되는 결과이다.
그리고
따라서 다음이 성립한다.
$\quad$ (6.23)에서 $p(\boldsymbol{x})$ 는 사전 확률(prior)이며, 이는 어떠한 데이터도 관측하기 이전에 관측되지 않은 (잠재) 변수 $\boldsymbol{x}$ 에 대한 우리의 주관적인 사전 지식을 캡슐화한 것이다. 우리는 이치에 맞는 어떤 사전 확률이든 선택할 수 있지만, 매우 드물게 발생하는 값일지라도 모든 그럴듯한 $\boldsymbol{x}$ 에 대해 사전 확률이 $0$ 이 아닌 pdf(또는 pmf)를 가지도록 보장하는 것이 매우 중요하다.
$\to$ 만약 우리가 어떤 가설 $\boldsymbol{x}$ 에 대해 편견을 가지고 초기 사전 확률을 정확히 실수 $0$ 으로 할당해 버린다면, 이후 어떤 데이터(우도)가 관측되더라도 사후 확률은 영원히 0이 된다. 구현 관점에서 어떠한 가설에 대한 제약을 폐구간 $[0, 1]$ 이 아닌 개구간 $(0, 1)$ 으로 유지해야 한다.
$\quad$ 우도(likelihood) $p(\boldsymbol{y} \mid \boldsymbol{x})$ 는 $\boldsymbol{x}$ 와 $\boldsymbol{y}$ 가 어떻게 연관되어 있는지를 설명하며, 이산 확률 분포의 경우 만약 우리가 잠재 변수 $\boldsymbol{x}$ 를 안다고 가정했을 때 데이터 $\boldsymbol{y}$ 가 나타날 확률이다. 우도는 $\boldsymbol{x}$ 에 대한 분포가 아니라 오직 $\boldsymbol{y}$ 에 대한 분포라는 점에 유의하라. 우리는 $p(\boldsymbol{y} \mid \boldsymbol{x})$ 를 “( $\boldsymbol{y}$ 가 주어졌을 때) $\boldsymbol{x}$ 의 우도” 또는 “ $\boldsymbol{x}$ 가 주어졌을 때 $\boldsymbol{y}$ 의 확률”이라고 부르지만, 결코 $\boldsymbol{y}$ 의 우도라고는 부르지 않는다 (MacKay, 2003).
$\quad$ 사후 확률(posterior) $p(\boldsymbol{x} \mid \boldsymbol{y})$ 는 베이지안 통계학에서 우리가 관심을 가지는 양(quantity of interest)인데, 왜냐하면 이것이 우리가 정확히 알고 싶어 하는 것, 즉 $\boldsymbol{y}$ 를 관측하고 난 후 $\boldsymbol{x}$ 에 대해 우리가 알게 된 것을 표현하기 때문이다.
$\quad$ 다음 양은
주변 우도/증거(marginal likelihood/evidence)이다. (6.27)의 우변은 6.4.1절에서 정의할 기댓값 연산자(expectation operator)를 사용한다. 정의에 의해 주변 우도는 (6.23)의 분자를 잠재 변수 $\boldsymbol{x}$ 에 대해 적분한 것이다. 따라서 주변 우도는 $\boldsymbol{x}$ 와 무관하며, 사후 확률 $p(\boldsymbol{x} \mid \boldsymbol{y})$ 가 정규화(normalized)되도록 보장한다. 주변 우도는 또한 사전 확률 $p(\boldsymbol{x})$ 에 대해 기댓값을 취한 ‘기대 우도(expected likelihood)’로 해석될 수도 있다. 사후 확률의 정규화 외에도 주변 우도는 베이지안 모델 선택(Bayesian model selection)에서 중요한 역할을 하며, 이는 8.6절에서 논의할 것이다. 적분 때문에 증거는 종종 계산하기 어렵다.
$\quad$ 베이즈 정리 (6.23)은 우도에 의해 주어진 $\boldsymbol{x}$ 와 $\boldsymbol{y}$ 사이의 관계를 뒤집을 수 있게 해준다. 따라서 베이즈 정리는 때때로 확률적 역(probabilistic inverse)이라고도 불린다. 우리는 8.4절에서 베이즈 정리에 대해 더 논의할 것이다.
주목 (Remark). 베이지안 통계학에서 사후 확률 분포는 사전 확률과 데이터로부터 얻을 수 있는 모든 가용한 정보를 캡슐화하기 때문에 우리가 관심을 가지는 대상이다. 사후 확률 전체를 들고 다니는 대신, 8.3절에서 논의할 사후 확률의 최댓값(maximum of the posterior)과 같이 사후 확률의 특정 통계량(statistic)에만 초점을 맞추는 것도 가능하다. 하지만 사후 확률의 특정 통계량에만 초점을 맞추는 것은 정보의 손실(loss of information)을 초래한다. 더 넓은 문맥에서 생각해보면, 사후 확률은 의사 결정 시스템 내에서 사용될 수 있으며, 전체 사후 확률(full posterior)을 가지는 것은 극도로 유용할 수 있고 교란(disturbances)에 강건한(robust) 의사 결정으로 이어질 수 있다. 예를 들어, 모델 기반 강화학습(model-based reinforcement learning)의 맥락에서 Deisenroth et al. (2015)은 그럴듯한 상태 전이 함수(transition functions)들의 전체 사후 확률 분포를 사용하는 것이 매우 빠른(데이터/표본 효율적인) 학습으로 이어지는 반면, 사후 확률의 최댓값에만 초점을 맞추는 것은 일관된 실패를 초래함을 보여주었다. 따라서 전체 사후 확률을 가지는 것은 하위 작업(downstream task)에 매우 유용할 수 있다. 9장에서 우리는 선형 회귀(linear regression)의 맥락에서 이 논의를 계속할 것이다.