조건부확률과 Bayes 정리(1강) 1일차 (1/14)

확률과 통계 1강: 조건부확률과 Bayes 정리

 

1. 조건부확률

P(B|A) = ? 말과 식으로 나타낼 것

 

2. Bayesian Theorem

 

3. 예제 1.7 Binary Symmetric Channel

input symbol : {x1, x2} <= 트랜스미터

output symbol : {y1, y2| <= 리시버

Symmetric P11 = P22, P12 = P21

이에 따른 각각의 식에 대한 식을 세워볼 것

1) Perror = Prob(x1 trans, y2 receive) + Prob(x2 tr. , y1 re.)

error: x1 -> y2, x2 -> y1

2) when y2 received, what prob of x1 trans?

3) P(x1|error)

 

4. 독립 사건인지 아는 방법은?

 

5. Independence vs mutually exclusive ?

 

6. Cartesian Product?

 

---

1. P(B|A) = A의 조건에서 B가 일어날 확률

P(B|A) = P(B∩A)/P(A)

= P(B∩A|S)/P(A|S)

샘플 스페이스에서 A가 발생할 때, 조건 A와 B가 동시에 발생할 확률

말을 식으로 바꿀 때, 조건과 일어나는 이벤트가 종종 헷갈린다.

 

P(A∩B) = P(A,B) = P(AB) 로 동일하게 쓰기도 한다.

함께 동시에 일어날 확률

 

B의 조건에서 사건1과 사건2만 일어날 수 있다면,

※ P(사건1|B) + P(사건2|B) = 1

 

2. Bayesian Rule

P(B|A) = P(B∩A)/P(A) = P(A|B)*P(B)/P(A)

P(A|B) = P(A∩B)/P(B) = P(B|A)*P(A)/P(B)

 

P(Ak|A) = P(A|Ak)P(Ak)/P(A) = P(A∩Ak)/P(A)

=P(A|Ak)P(Ak)/∑(i=1부터 n) P(Ai)P(A|Ai)

 

(P(A)는 P(A1) + P(A2) ... + P(An)의 합이니까)

 

P(A|B)(=B조건에서 A가 발생할 확률)를 구하기 위해, 이미 결과가 나와있는 P(B|A)(=A조건에서 B가 발생할 확률)값을 이용하는 것

 

3. 예제 1.7 복습

P11 = P(y1|x1)

P22 = P(y2|x2)

P12 = P(y2|x1)

P21 = P(y1|x2)

 

P(x1), P(x2) 는 정량적으로 알아낼 수 있는 값이기에 조건으로 사용가능

 

1) Prob(x1 trans, y2 rec., ) + Prob(x2 trans., y1 re.)

P(y2|x1)P(x1) + P(y1|x2)P(x2)

 

2) when y2 received, what prob of x1 trans. ?

P(x1|y2) = P(y2|x1)P(x1)/P(y2)

=P(y2|x1)P(x1)/(P(y2|x1)P(x1)+P(y2|x2)P(x2))

 

3) P(x1|error)

P(y2|x1)P(x1)/(P(y2|x1)*P(x1)+P(y1|x2)*P(x2))

 

4. 독립사건인지 아는 방법

P(A∩B) = P(A)*P(B) 가 성립한다면 독립사건이다.

※ Independent event 와 mutually exclusive는 다르다.

 

만약 A와 B가 독립사건 이라면,

A의 여집합과 B, B의 여집합과 A, B의 여집합과 A의 여집합 역시 독립적이다.

 

5. Independent 이벤트는 하나의 사건이 독립적으로 일어나는 것이다.

예를 들어, 주사위를 던지고 첫번째 던진 것을 실험1이라고 하고, 두번째 던진 것을 실험2라고 하자.

실험1과 실험2는 서로 연관성이 없기에 독립사건이다.

 

Mutually exclusive는 하나의 사건이 다음의 사건에도 영향을 주는 것이다.

예를 들어, 주머니 안에 하얀공 3개, 검은공 5개, 빨간공 2개가 있다면,

내가 하나의 하얀공을 뽑으면 다음 뽑는 공이 하얀공일 확률이 3/10에서 2/9로 줄어든다.

 

6. Cartesian Product

독립적인 사건 두 가지를 시행하여 샘플 스페이스가 두개 나왔을 때, 이 둘을 합쳐서 이 안의 요소들을 묶어서 원소쌍으로 만듬

S1X2 = { (xi, yi) | xi ∈S1, y1∈S2}

 

2차원 평면, 3차원 공간좌표 구할 때 순서쌍 집합 각각의 원소 쌍을 만들어줌