Linear Regression(์ ํ ํ๊ท): 2๊ฐ ์ด์์ ๋ณ์๋ค ์ฌ์ด์์์ ์ธ๊ณผ ๊ด๊ณ์ ๋ํ ์ ํ ๊ทผ์ฌ (์์ธก)A linear approximation of a causal relationship between two or more variables. ์ ํ ํ๊ท์ ๊ณผ์ 1. Sample data๋ฅผ ์์งํ๋ค.2. ํด๋น ์ํ์ ๋ง๋ ๋ชจ๋ธ์ ๋์์ธ ํ๋ค.3. ํด๋น ๋ชจ๋ธ์ผ๋ก ์ ์ฒด population์ ๋ํ ์์ธก์ ํ๋ค. ์ ํ ํ๊ท์์ ์์ธกํ๋ ๊ฐ y ๋ dependent variable(์ข
์ ๋ณ์) ์ด๊ณ , (x1, x2, ..., xk)๋ independent variable(๋
๋ฆฝ ๋ณ์) ๋ผ๊ณ ๋ถ๋ฆ
๋๋ค.y ๋ x๋ค์ ๋ํ ํจ์๋ก ํํ๋ฉ๋๋ค. => y = f(x1, x2, ..., xk) ์ฐ์ Simple L..
๋ถ๋ฅ ์ ์ฒด๋ณด๊ธฐ
Binomial Distribution์ Bernoulli Distribution with mutliple trials๋ก ์ดํดํ๋ฉด ์ข์ต๋๋ค.For a random variable X, ์ด๋ฒคํธ์ ๊ฒฐ๊ณผ๊ฐ ๋๊ฐ์ ์ต์
๋ฐ์ ์กด์ฌํ์ง ์๋๋ค๋ฉด, ์ด๋ฅผ ์ฐ๋ฆฌ๋ ๋ฒ ๋ฅด๋์ด ๋ถํฌ๋ผ๊ณ ๋ถ๋ฆ
๋๋ค.ํ๋ฅ p์ ๋ํ์ฌ X~Bern(p)๋ก ํ๊ธฐํ๊ณ , ์ด๋ X~B(1,p)์ ๋์ผํฉ๋๋ค. ๋ฒ ๋ฅด๋์ด ๋ถํฌ์ ๋ํด์ ์กฐ๊ธ๋ง ๋ ์์๋ณด์๋ฉด,E(x) = 1*p + 0*(1-p) = p Variance = p(1-p)STDEV = sqrt(p(1-p))์
๋๋ค. ๊ด๋ก์ ์ผ๋ก ์ฐ๋ฆฌ๋ ๋๊ฐ์ ๊ฒฐ๊ณผ ์ค ๋์ฑ ํ๋ฅ ์ด ๋์ ๊ฒฐ๊ณผ๋ฅผ p๋ก, ๊ทธ๋ ์ง ์์ ๊ฒ์ 1-p, ํน์ q๋ก ๋ํ๋
๋๋ค.๋ํ, ์ฐ๋ฆฌ๋ ๋ฒ ๋ฅด๋์ด ๋ถํฌ๋ฅผ ์ ์ฉํ๊ณ ์ถ์ ์ํฉ์, ๊ฐ ์ด๋ฒคํธ์ 1๊ณผ 0..
์ฐ๋ฆฌ์๊ฒ nCr๋ก ๋์ฑ ์น์ํ ์กฐํฉ์, ํ ์งํฉ์์ ํน์ ์์๋ค์ ๋ฝ์ ์ ์๋ ๊ฐ์ง์๋ฅผ ์นญํฉ๋๋ค.์ฌ๊ธฐ์ ์ค์ํ ์ ์ permutation๊ณผ๋ ๋ค๋ฅด๊ฒ ์์๊ฐ ์ค์ํ์ง ์๋ค๋ผ๋ ์ ์
๋๋ค. ์๋ฅผ ๋ค์ด ํ๊ต์์ ์ฐ๋ฆฌ ๋ฐ์ ๋ํ ํ์์ 3๋ช
๋ฝ๋๋ค๊ณ ํ์ ๋, ๋ฝํ๋ ์์๋ ์๋ฌด๋ฐ ์๊ด์ด ์๊ฒ ์ฃ ? 3๋ช
์ ํ์์ด [๊น์ค์, ์ต๋์, ๋ฐ๋ฏผ์ง] ๋ผ๊ณ ํ๋ฉด, ์ด๋ [๊น์ค์, ๋ฐ๋ฏผ์ง, ์ต๋์]์ ๋ฝ์์ ๋๋ [๋ฐ๋ฏผ์ง, ์ต๋์, ๊น์ค์]๋ฅผ ๋ฝ์์ ๋๋ ๊ฐ์ ์กฐํฉ์
๋๋ค. ๊ทธ๋ ์ฃ ? Combinations ๊ณต์ nCr์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค.nCr = n! / (n-r)! * r! (์ค๋ณต ํ์ฉ X) ์ฐ๋ฆฌ์ ์์์์ ์ฐ๋ฆฌ ๋ฐ์ ์ด ํ์ ์๋ฅผ 10๋ช
์ด๋ผ๊ณ ํด๋ด
์๋ค.๊ทธ๋ ๋ค๋ฉด n = 10, r = 3์ด ๋๊ณ , 10C3 = ..
Combinatorics์์ variation์ ๋ถ์ฐ์ ๋ปํ๋ ๊ฒ์ด ์๋๋๋ค. Variation์ด๋, ์ฃผ์ด์ง ์งํฉ์์ ํน์ ๊ฐ์์ ์์๋ค์ ๊ณ ๋ฅด๊ณ ๋์ดํ ์ ์๋ ์ด ๊ฒฝ์ฐ์ ์๋ฅผ ๋ปํฉ๋๋ค.์ ํํ ๋ฒ์ญ์ ์ฐพ๊ธฐ๊ฐ ์ด๋ ค์์ ๊ทธ๋ฅ ๋ฐ๋ฆฌ์์ด์
์ด๋ผ๊ณ ๋ถ๋ฅด๊ฒ ์ต๋๋ค. ๋ฐ๋ฆฌ์์ด์
v์ ๊ณต์์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค.v = n^p where n = total number of elements, and p = the number of positions. ์๋ฅผ ๋ค์ด ๋๊ฐ์ 0~9๊น์ง ์
๋ ฅํ ์ ์๋ ์ซ์ ์ํธ๋ฅผ ์ถ์ธกํด์ ๋ง์ถฐ์ผ ํ๋ค๊ณ ํ ๋,n์ 0~9๊น์ง ์ด 10๊ฐ๊ฐ ๊ฐ๋ฅํ๋ n = 10, p๋ ๋๊ฐ์ ๊ฐ์ ๋ง์ถฐ์ผํ๋ 2์
๋๋ค.์ฆ v = 10^2 = 100์ด๋ฏ๋ก, ํด๋น ์ด๋ฒคํธ์ ๋ํด์ ๊ฐ๋ฅํ ๋ฐ๋ฆฌ์์ด์
์ ์ด 100๊ฐ์
๋๋ค. ์ด ..