mitdog의 기록장

DRV의 조건부 성질에 대해 알아보겠다.조건부 확률 질량 함수(Conditional PMF)다음 두 조건이 만족하면,X is DRVEvent A with P(A) > 0조건부 확률 질량 함수임이 자명하다.$$p_{X|A}(x) = \frac{P({X=x}\cap A)}{P(A)}$$그렇다면 조건부 확률 질량 함수(이하 Conditional PMF)도 정확하게 PMF인지 확인을 해보자.Is Conditional PMF legitimate?P(X=x)들은 서로 partition of $\Omega$ 이다.혹시 집합의 분할이 가지는 의미를 까먹었을까봐 적어두겠다. 서로 disjoint하다전부 합치면 표본 공간($\Omega$)이다.=> 위 두개가 의미하는건 또, 전 확률 정리(total probability ..

여러 확률 변수의 결합 확률 질량 함수(Joint PMFs of Multiple RVs)DRV인 두 확률 변수 X, Y가 있다고 하자.두 PMF를 합치면(Joint PMF)$$p_{X,Y}(x, y) = P(X=x, Y=y) = P({X=x}\cap{Y=y})$$Example)P((X, Y) $\in$ A), P((x, y) : $0 \le x \le 1, 1 \le y \le 2$) 의 값은,주변 확률 질량 함수(Marginal PMFs)Joint PMF는 각각의 PMF를 다 포함했기에, Joint PMF를 알면 결국 각각의 PMF를 알 수 있다.증명에는 각각의 DRV들이 결국 표본 공간의 분할임을 이용, 전확률정리를 사용한다.marginal 개념은 아래 개념들에서 증명하는데 계속 쓰인다.다중 확률 변..

기댓값(Expectation=Mean=Expected Value)기댓값은 PMF(확률질량함수)를 한마디(숫자)로 표현할 수 있다.ex) 학생들 점수가 막 40점, 50점, 20점.. vs 학생들 평균(기댓값) 30점입니다.$$E[X] = \sum_{x}^{} xp_X(x)$$$\sum$ 확률 변수 x 확률 = 기댓값(평균)기댓값의 여러 해석Center of gravity of PMF : 확률 '질량' 함수의 가운데(평균) 이라는 뜻Average in large number of repetitions of the experiment: 실행 횟수가 많은 실험의 예상되는평균 값Example) two independent coin tosses이산 확률 변수(DRV)에서 기댓값이 존재할 조건(언제나 그런건 아니다..

확률 변수(Random Variables)결과를 숫자로 대응시키는 것. 어떻게 보면 함수같은 느낌이다.(질문을 통계학적으로 표현하는 것: number of heads = r(X) = {0, 1, 2})random variable X:$$X: \Omega ->R, X(w) \in R $$간편하게 X=x라는 형태로 사용한다.이산 확률 변수(Discrete Random Variables, DRV)I. 이산(Discrete):r(X)가 countable이면 이산(discrete)적인 것이다.ex) sample space가 uncountable 이여도, r(X)가 countable인 경우:choosing a point p from [-1,1] -> $\Omega = [-1, 1]$ is uncountableX =..

확률 세기(Counting)결과들(Outcomes)을 세는 것만으로 확률을 구할 수 있다.표본 공간의 모든 결과가 동일한 확률일 때(All outcomes in $\Omega$ are equally likely)$\displaystyle P(A) = \frac{|A|}{|\Omega|}$ (기호: | . | = number(#) of elements in a set(사건 속 원소의 개수))모든 결과의 확률이 p로 일어난다.event A: 유한 개의 모든 사건이 동일하게 일어난다. (finite number of outcomes that are equally likely)세는 것의 원리(Counting Principle)분할 정복 접근(Divide-and-Conquer approach)각 회차 별로 나누어..

독립(Independence)어떤 두 사건이 독립이다사건 A, B가 독립이면 다음을 만족하는 것이다.$P(A\cap B) = P(A)P(B)$$P(A|B) = P(A)$ (event B가 일어난 것이, A에 영향이 없다)A, B가 Disjoint => A, B Independent ? (사건 A, B가 서로소이면 독립?)당연히 아니다. 오히려 정반대에 가깝다.pf) $P(A), P(B) > 0$ and each Disjoint $=> P(A\cap B) \ne P(A)P(B) >0$ 독립 성질을 만족하지 못한다.어떤 집단의 독립$A_1, ... A_n$이 전부 서로 독립이려면,==2개끼리, 3개끼리, 4개끼리, ... , n개끼리 "전부" 독립==인 경우여야 한다.예시는 3개 사건, 4개 사건의 독립이 ..

전 확률 공식(Total Probability Theorem)$A_1, ... A_n$이 $\Omega$의 분할(Partition)이고, $P(A_i) > 0, \forall i$라고 하자.그러면 다음이 성립한다.$$P(B) = P(A_1)P(B|A_1)+P(A_2)P(B|A_2)+...+P(A_n)P(B|A_n)$$증명은 다음과 같다. 위의 가정과 공리 2번을 사용한다.그림으로는 이런 식이다. (최소 그림이라도 기억하라)Example 1)1 대 1 토너먼트. 팀 유형에는 3가지 타입(공격적, 수비적, 균형적)이 있다.vs Type-1 승률: 0.3vs Type-2 승률: 0.4vs Type-3 승률: 0.5전체 팀들의 타입 비율은 다음과 같다.Type-1 : Type-2 : Type-3 = 2 : 1 ..

개념과 표기- P(A|B), P(B) > 0- B가 주어졌을 때, A의 조건부 확률(conditional probability of A given B)라고 읽는다.- 직관적으로, 표본 공간(Sample space)이 B로 바뀌었다는 느낌. 정의- P(A|B) = P(A∩B)/P(B) , givenP(B) > 0- B가 일어났을 때, A였을 결과값. 확률 공리를 적용해보자(Checking the probability axioms)i) P(A|B) ≥ 0, ∀A ⊆ Ω 임은 자명하다.ii) P(Ω|B) = P(Ω∩B)/P(B) = P(B)/P(B) = 1 정규화도 당연하게도 만족한다.iii) A와 C라는 disjoint한 두 사건이 있다고 하자. 따라서, A ∩ C = ϕ 이면, P(A|B) + P(C..

확률 모델(Probabilistic Models): 어떠한 상황을 가정하여 확률을 따지기 위한 것. 다음의 2가지로 이루어진다.1. 표본 공간(Sample Space, Ω): 일어날 수 있는 모든 경우의 수가 전부 원소인 집합.ex) a coin toss : Ω= {H, T}ex) 2 coin toss : Ω = {HH, HT, TH, TT}사건(Event) : 표본 공간의 부분 집합이다. 특정한 조건 하의 원소들이다.ex) 2번의 동전 던지기에서 앞면이 한번이라도 나올 경우 A = {HH, HT, TH}표본 공간(Sample Space)의 조건원소들 끼리 서로 동시에 일어날 수 없어(mutually exclusive)야 한다. (unique outcome)모든 결과(경우)가 포함되어야 한다. (Coll..

어떤 것들을 '모아놓은' 것(Collection of Objects)집합의 포함된 x, 미포함된 x, 공집합의 기호유한 집합 VS 무한 집합(Finite or Infinite): 원소의 개수 기준으로, 유한한 개수냐 무한한 개수냐셀 수 있는 집합(가부번) VS 셀 수 없는 집합(Countable or UnCountable): 무한 집합인데, 셀 수가 있느냐 없느냐. 즉, 원소가 자연수 집합과 일대일 대응이 되는가?Countable : N(자연수), Z(정수), Q(유리수)..Uncountable : R(실수), I(무리수), S = {x : 0 ≤ x ≤ 1} 와 같이 연속된 구간..전체 집합(Ω, Universal Set) = Sample Space: 모든 경우의 수를 포함한 집합, n차원 공간의 모든..