오픈 서비스, 오픈 데이터 Sunny's Blog

막내아들 동민이의 멋진 태권무

2009-11-24T09:52:38Z

동민이가 이렇게 컸어요.

동민이의 태권무 감상하세요. 하얀 도복입은 아이가 동민이 입니다. ㅋㅋ

댓글로 감상문 한줄...

tag : 우리아들, 김동민, 태권무

수학_삼각형의 무게중심

2009-11-23T11:03:28Z

여기에서 긁어 왔습니다.

저작권에 문제가 있으면 바로 내리겠습니다.

터

2009-11-20T13:23:05Z

재근이가 노래하고 선태가 반주하고..

<터>

1.저 산맥은 말도 없이 오천년을 살았네
모진 바람을 다 이기고 이 터를 지켜왔네
저 강물은 말도 없이 오천년을 흘렀네
온갖 슬픔을 다 이기고 이 터를 지켜왔네
설악산을 휘휘돌아 동해로 접어드니
아름다운 이 강산은 동방의 하얀 나라
동해 바다 큰 태양은 우리의 희망이라
이 내몸이 태어난 나라 온누리에 빛나라
자유와 평화는 우리 모두의 손으로
역사의 숨소리 그날은 오리라
그날이 오면은 모두 기뻐하리라
우리의 숨소리로 이 터를 지켜나가자

2.한라산에 올라 서서 백두산을 바라보며
머나먼 고향을 생각하니 가슴이 뭉클하구나
백두산의 호랑이야 지금도 살아있느냐
살아있으면 한번쯤은 어흥하고 소리쳐봐라
얼어붙은 압록강아 한강으로 흘러라
같이 만나서 큰 바다로 흘러가야 옳지 않겠나
태극기의 펄럭임과 민족의 커다란 꿈
통일이여 어서 오너라 모두가 기다리네
불러라 불러라 우리의 노래를
그날이 오도록 모두 함께 부르자
무궁화 꽃내음 삼천리에 퍼져라
그날은 오리라 그날은 꼭 오리라

터.mp3

아이디어

2009-11-19T11:06:34Z

평균, 중앙값, 절사평균....

접속시간 대비 방문횟수

접속시간이 긴 사용자가 방문횟수도 많다.

다운로드를 많이 하는 이용자가 상시이용자 이다.

실전통계

실전데이터마이닝

데이터마이닝이 뭐야?

통계가 뭐야?

데이터마이닝에서 사용되는 통계

엉터리 통계책, 그러나 감동의 물결

데이터마이닝_데이터탐색

2009-11-19T10:42:38Z

data exploration에서 넓게 사용되는 표준 방법

-요약통계(summary statistic): 집합값에 대한 평균이나 표준편차와 같은 것

-가시화 기법: 히스토그램, 산포도(scatter plot)

-OLAP은 최근에 개발되었는데, 다차원 배열의 값들을 탐색하는 기법들로 구성

[참고]

-최빈값(mode)

-백분위점수 [百分位點數, percentile rank] : 백분위수·백분단계위수라고도 한다. 한 집단의 점수분포상에서 어떤 일정한 점수에 대한 백분위란, 그 점수 미만에 놓여 있는 사례의 전체 사례에 대한 백분율을 말한다. 예를 들어, 한 적성검사에서 A라는 사람이 170점을 받았는데, 이 점수 아래 전체 사례의 75%가 있다면 A의 백분위점수(또는 백분위)는 75가 된다.

-백분점수란, 어떤 주어진 원점수에 대하여 이에 해당하는 분위를 구하고자 하는 경우에 백분위와 관련한 점수이다. 백분점수의 큰 이점은 계산하기 쉽고 훈련 없이도 비교적 이해하기 쉬우며, 여러 종류의 원점수를 백분점수로 환산해 놓으면 서로 비교할 수 있다는 것이다. 백분점수는 개인의 점수를 표준집단에 비춘 상대적 위치를 알려줄 뿐, 개인간의 점수 차를 양적으로 보여주지는 않는다. 그 때문에 백분점수로서는 평균값 상관계수 및 그 이외의 통계값은 계산할 수 없다는 결점이 있지만 보편성·타당성·대중성이 있어 여러 검사 제작에 널리 쓰인다.

-절사평균:trimmed mean(참고:여기서인용)

절사평균은 자료중에서 큰 관측값이나 작은 관측값을 각각 a%인 [na]개를 버린 나머지 관측값들로부터 구한 평균을 a% 절사평균이라 합니다.

총도수가 10개이니깐 n=10 그리고 10%와 25%가 있으니깐..

10%의 절사평균일때는 [na]=10*0.1=[1]

20%의 절사평균일때는 [na]=10*0.25=[2.5]

이므로 10%의 절사평균을 구하고싶으면 가장 작은값 (56)과 가장큰값 (73)을버리시고

더해서 8로 나누시면 되고..

25%의 절사평균을 구하고싶으면 가장 작은값 2개(56,59)와 가장큰값 2개(71,73)를 버리신후 각합을 구해 6으로 나누면 됩니다.

-[x] 가우스 x라고 읽는다. x를 넘지 않는 최대의 정수를 의미하죠. ^ ^

-20% 절사평균이라 하면 위, 아래에서 각각 20%씩 잘라내라는 의미입니다.

tag : 데이터마이닝, 데이터탐색

통계_산포도와 회귀식 그리고 상관분석, 상관계수

2009-11-18T10:37:01Z

-산포도(scatter plot)란 두 변수의 짝들을 좌표상에 표시한 그림이다.

-두 변수의 관계를 정확히 파악하기 위해서 두 변수간의 규칙성을 나타내는 함수관계를 구할 필요가 있음. -이와 같은 두 변수간의 함수관계를 회귀모형이라 하고, 구체적인 함수식을 찾아낸 것을 회귀식(regression equation) 또는 예측식(prediction equation)이라고 함.

-회귀식 이외에도 두 변수의 관계를 하나의 수치로 나타내는 상관분석이 있다.

-상관분석을 통하여 계산된 상관계수(correlation coefficient)는 두 변수 사이의 관계가 어느 정도 인지를 알게 해줌.

-회귀식은 두 변수간의 관계를 하나의 식으로 나타낸 것인데 이것은 두 변수간의 밀접한 정도를 나타내지는 못한다.

-반면에 두 변수간의 관계의 강도, 밀접한 정도는 상관분석을 통하여 측정할 수 있다. 두 변수의 관계는 선형이 될 수도 있고 곡선형이 될 수도 있다.(참고: 선형관계라 함은 두 변수간의 관계가 직선적인 비례관계로서 1차식으로 나타낼 수 있을 경우를 말함)

공분산

-두 확률변수의 분포가 결합될 때 그 결합확률분포의 분산을 측정하는 것으로 Con(X, Y)로 표시한다.

tag : 통계, 산포도, 상관분석, 공분산, 회귀식, 상관계수

벡터

2009-11-16T19:48:30Z

스칼라(scalar): 길이, 질량과 같이 크기만 갖는 양

벡터(vector): 속도나 힘과 같이 크기와 방향을 동시에 갖는 양

-크기가 1인 벡터를 '단위벡터'라 한다.

-평면에서의 벡터를 평면벡터, 공간에서의 벡터를 공간벡터라 함.

-크기가 같고 방향이 같을 때, 두 벡터는 서로 같다고 한다.

-영벡터는 벡터의 덧셈에 대한 항등원이다. 역벡터는 덧셈에 대한 역원이다.

[참고]

법선 法線 : [명사]<수학> 평면에서 곡선 위의 한 점을 지나고, 이 점에서의 곡선에 대한 접선에 수직인 직선. 또는 곡면 위의 한 점을 지나고, 이 점에서의 곡면에 대한 접평면에 수직인 직선.

tag : 벡터

해밍 거리

2009-11-14T11:33:12Z

데이터 객체 간의 비유사도

-유클리드 거리(Euclidean distance), 민코우스키 거리(Minkowski distance)

-해밍 거리(Hamming distance)

해밍 거리(해밍距離 , Hamming distance)

정보 이론에서, 해밍 거리(해밍距離 , Hamming distance)는 같은 길이를 가진 두 개의 문자열에서 같은 위치에 있지만 서로 다른 문자의 개수이다. 즉, 한 문자열을 다른 문자열로 바꾸기 위해서 몇글자를 바꾸어야 하는지를 나타낸 것이다. 리처드 해밍이 제안했다. 컴퓨터 통신 등에서 문자열의 전송 도중 몇 글자에서 오류가 났나를 측정하는 방법 중 하나이다.

'1011101'과 '1001001'사이의 해밍 거리는 2이다. (1011101, 1001001)
'2143896'과 '2233796'사이의 해밍 거리는 3이다. (2143896, 2233796)
"toned"와 "roses"사이의 해밍 거리는 3이다. (toned, roses)

데이터 객체 간의 유사도

이진 데이터에 대한 유사도 척도

유사도 계수(similarity coefficient)란 이진 속성만을 포함하는 객체들 간의 유사도 척도를 말함. 보통 0과 1의 값을 가진다. 값 1은 두 객체가 완전히 유사함을, 값 0은 객체들이 전혀 유사하지 않음을 나타냄.

-단순 매칭 계수(SMC: Simple Matching Coefficient)

-자카이드 계수(Jaccard coefficient): 비대칭 이진 속성으로 구성된 객체들을 처리하기 위해 사용

코사인 유사도 (cosine similarity)

-두 문서 벡터의 코사인 유사도

-코사인 유사도는 x, y 사이의 각도(의 코사인)의 측정값이다.

-코사인 유사도가 1이면 x와 y 사이의 각도는 0도가 되고, x, y는 크기(길이)를 제외하고는 일치하게 된다.

-코사인 유사도가 0이면 x와 y 사이의 각도는 90도가 되고, x, y 두 문서는 아무런 용어(단어)도 공유하지 않게 된다.

확장 자카드 계수(타니모토 계수)

문서 데이터에 대해 사용이 가능하며, 이진 속성의 경우 자카드 계수로 축소된다.

상관관계

-이진 또는 연속형 변수를 가지는 두 데이터 객체 간의 상관관계는 객체들의 속성들 간의 선형관계에 대한 척도이다.

-두 데이터 객체 x와 y 사이의 피어슨의 상관관계(Pearson's correlation) 계수를 말한다.

인공지능에 자주나오는 수학 1 - 유클리디안 거리(Euclidean Distance)

제일 먼저 알아볼 공식은 "유클리디안 거리(Euclidean distance)"라는 것입니다.

"유클리드"라는 수학자가 생각해댄 공식인데...

아시다 시피 "유클리드"는 최대공약수를 계산해내는 "유클리드 호제법"으로 유명한 분이죠.

"유클리디안 거리" 공식은 n차원의 공간에서 두 점간의 거리를 알아내는 공식입니다.

참고로 "유클리안 거리" 계산 법을 "L2 Distance"라고도 합니다.

우리는 쉽게 x축과 y축으로 구성된 2차원에 두점이 있고 그 두점 사이의 거리를 측정하는 것은 피타고라스 정의를 이용해 쉽게 할 수 있습니다. (학교 졸업한지 좀 지나신 분들은 아닐 수도 있지만... 뭐 정 안되면 직접 그려서 자로 재면 되니깐.. ㅋㅋ) 하지만 다차원 좌표에서의 두점의 거리를 재는 것은 쉽게 할 수 없습니다. 이럴 때 이 "유클리디안 거리"공식을 사용하면 됩니다.

"유클리디안 거리" 공식은 다음과 같이 정의됩니다.

(아래아 한글로 직접 수식을 편집했더니 글자가 좀 크고 안 예쁘네요. ^^; )

뭐 그리 어렵지는 않은 수식이지요?

추가적으로 이 거리 공식으로 계산을 하면 거리의 최대값이라는 게 없어서 뭔가를 비교하기가 쫌 어렵습니다. 그래서 이를 0~1사이의 값을 갖도록 하기 위해 다음과 같이 계산하여 사용하기도 합니다.

유클리디안 거리 공식에 의해 계산된 값을 Ed라고 한다면

이렇게 되면 거리가 가장 가까운 경우 1이되고 멀 수로 0에 가까워 지겠죠?

사용예

"유클리디안 거리"공식은 실제 거리를 잴때도 사용하는 공식이긴 하지만... 인공지능 분야에서는 두가지 개체의 속성값들이 여러개 일 경우 이들 속성값들에 의한 두 개체 사이의 유사도를 구할 때 자주 사용합니다.

예를 들어 세개의 문서가 있고 각 문서는 a, b, c, d라는 단어로만 구성되어 있다고 합시다.

1번 문서는 a가 3번 b가 2번 c가 0번 d가 2번 출현했다고 하고

2번 문서는 a가 1번 b가 2번 c가 3번 d가 0번 출현했다고 하고

3번 문서는 a가 2번 b가 2번 c가 2번 d가 2번 출현했다고 하면

각 단어의 출현빈도를 속성으로 갖는 문서 D1을 정의하면 다음과 같이 정의할 수 있습니다.

D1 = { 3, 2, 0, 2 }

D2 = { 1, 2, 3, 0 }

D3 = { 2, 2, 2, 2 }

이는 a, b, c, d라는 4차원의 공간에 D1, D2, D3를 지정된 좌표로 배치하는 것과 같습니다.

참고로 위와 같이 정의하는 것을 보고 단어들의 출현빈도(Term Frequency)를 가중치(Weight)로 하여 문서를 논리적으로 정의했다고 합니다.

이제 누군가 "a가 1번 b 5번 나온 문서와 가장 가까운(유사한) 문서는?"이라는 질의을 했을 경우 이의 답을 구하기 위해 유클리디안 거리 공식을 사용할 수 있습니다.

방법은 누군가가 질의한 내용도 위에서 이야기한 문서들 처럼

Q = {1, 5, 0 , 0}

라고 정의하고 4차원 공간에 배치시킵니다. 그리고 Q와 D1, Q와 D2, Q와 D3의 거리를 각각 구해서 거리가 가장 가까운 문서가 답이되겠죠.
위의 문제를 실제로 계산해 보면 다음과 같습니다.

즉, 문서 1이 주어진 질의와 가장 유사하다고 할 수 있습니다. (인공지능이라는 분야가 모두 그렇듯이 답이 나와도 딱 이게 답이라고 할 수 없습니다. 사람의 판단이 가장 중요한 것이니깐요. - 사람이 판단해도 답이 아닌 경우도 있긴 합니다. - 하지만 뭐 이렇게 공식에 의해 계산할 수 있다는 것은 알고리즘화 할 수 있다는 것이고 알고리즘화 할 수 있다는 것은 컴퓨터가 어떤 근거를 갖고 문제를 해결할 수 있다는 것입니다.)

인공지능에 자주 나오는 수학 4 - 유사 계수(Similar Coefficient)

지금까지 맨 거리(Distance)에 의한 유사도 만을 이야기 했네요.

유사도를 따지는 것이기는 하지만 이젠 좀 다른 관점의 이야기를 해 보려고 합니다.

이번에 이야기 할 유사 계수는 집합적인 성격을 갖는 객체 간의 유사도를 계산하는데 사용됩니다.

유사 계수(Similar Coefficient)에는 다음과 같이 여러 종류가 있습니다.

1) 타니모토 계수(Tanimoto Coefficient) = 확장 자카드 계수

2) 다이스 계수(Dice's Coefficient)

3) 자카드 계수(Jaccard's Coefficient)

4) 코싸인 계수(Cosine Coefficient)

5) 중복도 계수(Overlap Coefficient)

모두 유사한 값들을 계산해 냅니다.

식이 유사한 것 처럼 개념도 유사하여 이번 강좌에서는 "타니모토 계수"만으로 설명하도록 하겠습니다.

사용예를 들어 한번에 설명하도록 하겠습니다.

어떤 쇼핑몰에서 마케팅 차원으로 사용자들에게 상품을 추천하고자 합니다.

그런데 아무 물건이나 막 추천하면 스팸처럼 느껴져서 회사 이미지가 않 좋아질 것 같아.

그 사람의 성향에 맞는 물건을 추천하려 합니다.

그렇다고 사용자 각자에게 어떤 성향을 갖고 있는지 혹은 뭘 좋아하는지 묻는것은 사생활 침해 문제 때문에 다른 방법을 찾아야 합니다.

각 사용자별로 갖고 있는 데이터는 사용자들이 지금까지 쇼핑몰을 이용하며 구매한 상품 내역 밖에 없습니다.

이번 업무 담당자는 고민 고민을 하다가 좋은 생각을 떠올렸습니다.

지금까지 성향이 비슷하다고 생각하되는 고객들을 그룹으로 묶어서 그 그룹의 다른 사용자들은 많이 구매했는데... 어떤 사용자가 구매하지 않았다면 이를 추천하도록 하는 것입니다.

생각은 그럴싸 했지만 성향이 비슷한 사람들을 어떻게 알아낼 것인가가 문제입니다.

구체적으로 A, B, C라는 사람이 쇼핑몰 고객으로 있다고 하죠.

각 사람들은 다음과 같은 상품들을 구매했었습니다.

A = { 노트북, 마우스, 신발, 마이크, 탬버린, 모니터 }

B = { 하드디스크, 모니터, 마우스, 캠코더 }

C = { 피아노, 탬버린, 바이올린, 첼로 }

위와 같은 구매 내역을 벤다이어 그램으로 그려보면 다음과 같이 될 것입니다.

그림이 좀 크네요... 이해바랍니다. ^^;

뭐 이미 A와 B 고객이 겹치는 것이 많아서 성향이 비슷하고 B와 C 고객은 겹치는게 하나도 없어서 성향이 전혀 다르다고 할 수 있겠네요.

하지만 만약 A라는 사람이 쇼핑몰에 있는 거의 모든 상품을 구매했다고 한다면 B라는 고객과 성향이 유사하다고 할 수 있을까요? 이런 문제를 해결하기 위해 타니모토 계수를 사용합니다.

타니모토 공식은 위에서 이미 보았지만 다시 적는다면 다음과 같습니다.

여기서 Na 는 A고객의 구매 상품 총 수를 의미하며 Nb는 B곡객의 구매 상품 총 수를 의미하며, Na∩b는 A고객과 B고객 모두 구매한 상품의 수를 의미합니다.

그럼 각각 계산해 보죠.

계산된 결과도 우리가 예상했던 대로 나왔네요.

A고객과 B고객은 C고객보다는 좀 더 성향이 같다고 생각할 수 있습니다.

뭐 문제를 대충 만들다 보니 성향 점수가 모두 다 그리 좋지 않네요. 헤헤...

타니모토 계수는 0부터 1까지의 값을 갖습니다. 0은 유사성이 없다는 것이며 1은 완전 같다는 의미입니다.

위의 문제에서 몇점 정도를 성향이 같다고 볼 것인가는 또 다른 문제입니다.

좀 억지 스럽지만 0.2점 이상이면 성향이 유사하다고 본다면 A고객에게는 "하드디스크"와 "캠코더"를 추천하고 B고객에게는 "노트북", "마이크", "탬버린"을 추천하면 되겠네요.

[참고자료]

위키

=> http://ko.wikipedia.org/wiki/%ED%95%B4%EB%B0%8D_%EA%B1%B0%EB%A6%AC

문헌 클러스터링을 위한 유사계수간의 연관성 측정

한승희, 이재윤 (연세대학교 대학원 문헌정보학과)

자동분류나 정보검색에 주로 이용되는 문헌 클러스터링에서는 문헌간의 유사성을 측정하기 위해 다양한 유사계수를 이용하는데, 모든 유사계수가 동일한 클러스터링 결과를 가져오는 것은 아니다. 본고에서는 50건의 신문기사를 대상으로 SPSS 통계 패키지를 이용하여 다양한 유사계수에 따라 달라지는 문헌 클러스터링의 결과를 살펴본 후, 유사계수간의 연관성을 측정하였다.

=> http://dewey.yonsei.ac.kr/memexlee/doc/kosimc1999.htm

인공지능에 자주나오는 수학 1 - 유클리디안 거리(Euclidean Distance)

=> http://www.nicklib.com/bbs/board.php?bo_table=bbs_scrap&wr_id=11

인공지능에 자주나오는 수학 2 - 벡터 공간(Vector Space)과 벡터 내적(Vector InnerProduct)

=> http://www.nicklib.com/bbs/board.php?bo_table=bbs_scrap&wr_id=12

인공지능에 자주 나오는 수학 4 - 유사 계수(Similar Coefficient)

=> http://www.nicklib.com/bbs/board.php?bo_table=bbs_scrap&wr_id=14

tag : 해밍거리, hamming distance

신경망, 나무형 분류, K-평균 군집화, 자기조직화 지도

2009-11-13T20:38:07Z

여기에서(http://www.korea.ac.kr/~stat420/Essay/2003summ.htm) 퍼온 글입니다.

-------------- 이하 퍼온글 -----------

데이터 마이닝 모델링에 대한 개념적 이해

허 명 회 (고려대학교 통계학 교수)

많은 기업들이 데이터 마이닝으로써 경영 지식을 과학적으로 도출해내고 이를 CRM에 활용하고 있다. 데이터 마이닝에 쓰이는 모델링 방법은 다양하지만 이 중에서 신경망(neural network), 나무형 분류(tree-structured classification), K-평균 군집화(K-means clustering), 자기조직화 지도(self-organizing map) 등이 대표적이다. 일반 경영자들이 쉽게 이해할 수 있도록 이들 모델링 방법론을 개념 위주로 설명하고자 한다.

1. 신경망 모형은 선형회귀 모형과 어떻게 다른가?

선형회귀 모형(linear regression model)은 1개의 목표변수를 규명하기 위하여 다수의 설명변수를 사용하되 관계식을 선형으로 설정한다. 예로서 개인 소득이 관심이라고 하자. 당연히 개인 소득은 고객간 상당한 변이를 보일 것이다. 왜 소득이 다른가? 무엇과 연관이 있는가? 소득과 관련 있는 변수들이 무엇인지를 알고 있고 개별 고객에 대하여 관련 변수들의 자료 값을 취하였다면, 기업은 고객 개개인에게 가구 소득을 일일이 묻지 않고도 그것을 알아낸 셈이 된다. 개인 소득과 관련 변수들 사이의 관계식을 활용한다면 말이다. 개인 소득에 대한 설명변수가 교육년수와 나이라면, 선형회귀 모형은 교육년수가 길수록, 그리고 나이가 많을수록 소득이 선형적으로 증가한다고 가정한다. 즉 12년 교육을 받은 사람과 16년 교육을 받은 사람간 소득 차이가 월 40만원이라면 16년 교육을 받은 사람과 18년 교육을 받은 사람간의 소득 차이는 월 20만원일 것이다. 나이에 대하여도 이와 같다. 교육년수가 같은 두 사람 중 한 사람이 30세이고 다른 한 사람이 45세인데 소득 차이가 월 100만원이라면 (45세 쪽이 많음), 교육년수가 같은 45세인 한 사람과 60세인 다른 사람 간 월 소득 차이도 월 100만원일 것이라고 가정한다 (60세 쪽이 많음).

그런데 요즘 세상은 이렇게 질서정연하게 움직이지 않는다. 특히 나이에 있어서 그럴 것이다. 45세 사람이 30세 사람에 비해 월수입이 많을지라도 60세인 사람은 45세 사람에 비해 월수입이 작을 수 있고 많더라도 그렇게 월 100만원이나 차이가 나지는 않을 것이다. 이런 비선형적 효과가 자료에 내재하여 있다면 소득에 대한 선형회귀 모형은 헛다리 짚는 셈이 된다. 자료를 보는 틀(=모형)이 경직되어 있어 자료가 명백히 말하는 것을 분석자가 알아듣지 못하는 결과가 된다.

신경망 모형이 선형회귀 모형에 비해 다른 첫 번째 점은 신경망은 설명변수의 비선형적 효과를 포착해낸다는 데 있다. 나이가 소득에 주는 효과가 처음에는 증가하다가 일정 나이를 지나면서 정체하는 경향이 있다면 신경망은 그것을 스스로 알아낸다. 이것은 우리가 음식에서 단 맛을 느낄 때 음식의 당도가 높을수록 단 맛의 강도가 커지지만 음식의 당도가 엄청 크다고 해서 그에 상응하는 단 맛을 느끼지 않은 것과 같은 이치이다. 이와 같이 데이터 마이닝에서 사용하는 인공 신경망 모형은 생물체의 실제 신경망과 같은 이치로 작동한다. 왜? 이에 대한 답은 쉽지 않다. 환원적이지만, 인공 신경망을 실제 신경망과 유사하게 만들었고 가급적 더욱 유사하게 되도록 계속 개량해나가기 때문이라고 이해하면 되지 않을까 싶다. 현재까지 나온 인공신경망 중 대표적인 다층 퍼셉트론 모형은 입력 층과 출력 층 사이에 은닉 층을 둔다. 그리고 그 안에 뉴런(신경세포)을 넣는데 뉴런은 입력노드로부터 받은 신호(자료)들을 조합하여 적절한 반응(변환)을 산출한 뒤 출력노드로 보내 최종 정보처리 하는 과정을 거친다.

그러면, 신경망 모형은 만능인가? 설명 변수들의 리스트를 분석자가 제시하여야 한다는 점에서 신경망의 지능 수준은 선형 회귀와 마찬가지이다. 소득과 관련 있는 변수를 스스로 알아내지는 않는다는 의미이다. 교육년수와 나이 외에 무엇이 소득과 관련 있는 변수인지 그럴 가능성이 있는 변수들을 분석자가 먼저 말하지 않는다면 신경망은 더 이상의 작업은 하지 않는다. 다시 말하여, 현재까지의 인공 신경망은 수동적인 작업자일 뿐 스스로 생각하고 행동하지 못한다.

신경망이 오히려 선형회귀 만도 못한 측면도 있다. 우리가 우리 몸의 신경계를 운영하고 있지만 동작 원리를 잘 모르고 있듯이, 분석자가 신경망 모형을 구축하였다 하더라도 내부까지 샅샅이 이해하는 것은 매우 어렵다. 단지 이런 값을 신경망 모형에 넣으면 이런 값이 나오고 저런 값을 넣으면 저런 값이 나온다는 것을 여러 번의 시행을 통하여 볼 수 있을 뿐이다. 이렇듯 모형 자체에 대한 설명이 어렵기 때문에 실제 기업의 BI 활용시 신경망을 쓰지 못하는 경우도 있다. 예컨대 신용예측 모형을 신경망으로 만든 경우 왜 고객 A는 좋은 신용으로 예측되는데 그 보다 못할 것 없어 보이는 고객 B는 나쁜 신용으로 예측되는지를 신경망이 알려주지 않기 때문이다.

2. 나무형 분류 모형은 엔트로피를 어떻게 감소시키나?

자연과학에서는 불확실성을 엔트로피(Entropy)로 계량화한다. 엔트로피의 정의를 예를 들어 살펴보기로 하자. 사건 A, B, C, D 중 어느 하나가 발생하는데 각각 확률 1/4, 1/4, 1/4, 1/4로 발생한다면 엔트로피는

- (1/4)log2(1/4) - (1/4)log2(1/4) - (1/4)log2(1/4) - (1/4)log2(1/4) = 2.00

이다 [여기서는 밑수가 2인 로그가 사용되었는데 꼭 그래야 하는 것은 아니다. 어느 값을 밑수로 하든지 수치적으로는 다른 엔트로피 값이 나오지만 전체 방법론에는 영향을 주지 않는다]. 이에 반하여 4개 사건의 발생 확률이 4/8, 2/8, 1/8, 1/8이라면 엔트로피는

- (4/8)log2(4/8) - (2/8)log2(2/8) - (1/8)log2(1/8) - (1/8)log2(1/8) = 1.75

가 된다. 따라서 먼저 경우에 비하여 엔트로피가 작다. 그렇다면 나중 경우의 불확실성이 상대적으로 작다는 것인데 이것이 맞는 말인지 곰곰이 생각해보자. 먼저 경우에서는 A, B, C, D 중 어느 것이 발생할지 전혀 알 수 없다. 그런데도 예측해야 한다고 해서 A를 택하였다고 하자. 그러면 오류 확률은 3/4이다. 나중 경우에서는 A, B, C, D 중 어느 것이 발생할지 알 수 없지만 A에 대한 확률이 가장 높으므로 A로 예측하는 것이 좋을 것이다. 그러면 오류 확률은 4/8이다. 그러므로 나중 경우가 더 가시적이고 덜 불확실한 경우라고 할 수 있다.

나무형 분류 모형은 목표 범주의 예측에 있어서 엔트로피를 최소화하는 설명변수를 단계적으로 찾아 활용한다. 예컨대 자동차 보험 가입자의 위험 등급 (A, B, C, D; 각각 확률 1/4) 예측이 관심인 경우 무엇을 기준으로 나눔으로써 엔트로피가 최소가 되는가를 찾는다. 나이가 30대 이하(전체의 50%)인가, 아니면 40대 이상(50%)인가로 나누는 경우, 30대 이하에서는 A, B, C, D 등급일 확률이 4/8, 2/8, 1/8, 1/8이고 40대 이상에서는 그 확률들이 0, 2/8, 3/8, 3/8이고 하자. 그러면 엔트로피는 다음과 같이 산출된다.

1) 30대 이하 (50%): 1.75 [앞에서 이미 계산되었음]

2) 40대 이상 (50%): 1.03 [앞에서와 같이 계산하되, 0 log2 0 = 0 으로 함]

따라서 평균 엔트로피는 1.39 (=0.5*1.75+0.5*1.03)가 된다. 그러므로 엔트로피는 나이대로 분류하기 전의 2.00에서 0.71 (=2.00-1.39)만큼 감소한 것이다. 이것은 나이대로 나누었을 때의 결과이므로 다른 것을 기준으로 분류하였을 때 더 큰 엔트로피의 감소가 있나 살펴, 그런 분류가 있다면 그것을 기준으로 한다는 것이 나무형 분류 모형의 기본 아이디어이다. 예컨대 나이대, 흡연 유무, 운전 경력 등으로 분류하여 얻는 결과들을 서로 비교하여 최선의 것을 찾는 것이다. 일단 1개의 분류 기준이 확정되면 그 다음엔 무엇으로 나누는 것이 좋은가를 계속 탐구하여 최종 분류 나무를 얻는다.

나무형 분류 모형의 방법론으로 대표적인 퀼란(Quilan, 1988)의 C4.5와 이것을 개량한 C5.0이 이제까지 설명한 엔트로피를 사용하고 있고 브라이만 등(Breiman et al., 1984)의 CART(Classification and Regression Trees)는 지니 지수(Gini Index)를 활용하는 데, 지니 지수는 엔트로피와 개념상 유사하다.

나무형 분류 모형은 결과를 읽기가 아주 쉽기 때문에 ["If-Then"의 반복 형식으로 되어 있으니까] 데이터 마이닝에 자주 활용된다. 그러나 어떤 기준 점을 중심으로 나누어지므로 설명변수 값의 작은 차이에서 예측 결과상 큰 차이가 빚어지기도 하므로 모형이 다소 불안정하다는 단점이 있다. 그러나 최근에는 배깅(Bagging), 부스팅(Boosting) 등 다양한 보완적 방법이 나왔으므로 앞으로 더욱 자주 활용될 것이다.

3. K-평균 군집화는 어떤 생각에서 나왔나?

어릴 적 동네 공터에는 많은 돌들이 뒹글고 있었다. 이것저것 모아 보면 돌들이 크기와 재질면에서 제각각이여서 몇 개의 그룹으로 어렵지 않게 나눌 수 있었다. 고등학교 때 학우들을 생각해보자. 얌전한 모범생부터 활동적인 리더, 지사적 극기형, 몽상가형, 사고뭉치형 등 여러 그룹이 있었다. 인간이란 본래 집합적 대상을 이해할 때는 이와 같이 분류를 중간과정으로 활용하는 경향이 있다. 그것이 BI에서는 고객세분화로 나타나는데 이것은 동네 공터의 돌을 분류하는 문제와 다르지 않다.

K-평균 군집화(K-means clustering)란 많은 수의 개체들을 주어진 수(=K)의 그룹으로 분류하기 위한 방법이다. 이것의 원리는 다음과 같이 단순하다.

1) 처음에는 K개 그룹 각각에 1개씩의 개체를 넣는다. 각 그룹에 개체가 1개씩만 있으므로 그룹 중심은 그룹별로 처음 배당한 개체 스스로가 된다.

2) 남은 모든 개체 각각을 가장 가까운 그룹 중심을 찾아 그 그룹에 배속시킨다.

3) 각 그룹 중심을 새로 계산한다. 여기서 그룹 중심은 각 그룹에 배속된 모든 개체들의 평균이다.

4) 앞의 단계 2와 3을 충분한 회수 반복하여 수행한다. 이것이 막대한 계산적 부담이 될 것 같지만 실제로는 그렇지 않다. 실제로는 대략 10회 내외의 반복으로 충분하며 웬만한 자료라면 커피 한 잔을 마실 시간 이내에 계산이 완료된다.

K-평균 군집화에서 문제는 군집 수 K를 사전에 정하는 일이다. 분석자로서는 이것이 곤혹스럽지만 대략 상식적인 값을 시도한 뒤 그 결과가 해석가능하고 멋지게 보이면 채택하고 그렇지 않으면 그 수를 줄이거나 늘이는 방법이 무난하다.

최근에는 K를 정하기 위하여 자료 분할(data partitioning)을 활용하는 방법도 연구되었다 (허명회 등, 2003). 이것은 분석자료를 3개 셋 A, B, C로 분할하여 A와 B로부터 각각의 K-평균 군집화 규칙을 만들고 이들 규칙을 C에 중복 적용하여 분류 결과가 얼마나 상호간 일치하는가를 보는 것이다. 일치계수로는 랜드(Rand, 1971)의 일치도 또는 엔트로피 등을 쓴다.

4. 자기조직화는 어떻게 가능한가?

1980년대 중반 이후 핀랜드의 전기공학자 코호넨(Kohonen)에 의하여 개발된 자기조직화지도(Self-Organizing Map)는 다수의 다차원 공간상 개체들이 스스로 비슷한 것들을 찾아 끼리끼리 저차원 공간(2차원)에 자리 잡도록 하는 방법을 말한다. 어떻게 이것이 가능할까?

다음 상황을 생각해보자. 고객들을 큰 운동장에 소집하여 유사한 사람들끼리 근처에 자리 잡게 하는 것이 목적이라고 하자. 어떻게 하면 될까?

1) 처음에는 각 위치의 특성을 임의로 정한다.

2) 첫 사람을 가장 유사한 위치 특성을 찾아내 그곳에 세운다. 그리고는 그 주변의 위치 특성을 모두 업데이트 하는데 이 때 새로 그 주변에 세워진 사람의 영향을 일정 크기 고려한다. 그 사람이 세워진 곳에서 가까운 위치점의 특성은 크게 업데이트 되고 일정 반경 내이지만 먼 위치점들의 특성은 작게 업데이트 된다. 이 작업을 한 명씩에 대하여 반복 적용하되 점차 주변 반경의 크기를 줄이고 업데이트 하는 정도도 줄인다. (따라서 처음에는 반경의 크기가 크지만 점차 줄어든다. 업데이트 정도도 마찬가지이다.)

3) 앞 단계의 계산을 충분한 횟수 반복한다. 이에 따라 주변 반경은 계속 줄게 되어 맨 나중에는 바로 옆 위치점만 겨우 포함될 정도로 작아진다. 업데이트 정도도 처음에는 크지만 나중에는 무시될 수 있을 만큼 작아진다.

그러므로 자기조직화 과정에서 처음에는 사람들의 위치 변경이 심하지만 점차 안정되어 가며 유사한 사람들은 근처에 자리 잡게 된다.

자기조직화지도도 고객 세분화에 사용될 수 있다. 이 점에서는 K-평균 군집화와 마찬가지이지만 자기조직화지도는 고객들의 위치를 시각적으로 보여주기 때문에 훨씬 유연하게 활용될 수 있다. 여러 통계전문가들은 자기조직화지도를 K-평균 군집화의 확장으로 보기도 하지만 이것보다는 주성분/인자분석의 비선형적 버전으로 이해하는 것이 더 옳다.

이상으로 데이터 마이닝의 4개 방법론인 신경망, 나무형 분류, K-평균 군집화, 자기조직화지도 등을 살펴보았다. 이들 방법론 외에 연관성 분석 방법으로 Apriori, GRI 등의 알고리즘을 SPSS 클레멘타인, SAS E-miner 등 유명 데이터 마이닝 소프트웨어들이 제공하고 있다. 그러나 이들 방법론들은 다수의 파라미터들이 제대로 설정되었을 때 최대의 성과를 낼 수 있으므로 무조건 따라하기 식 활용은 위험하다. 전문가의 자문을 필요로 하는 부분이다.

비즈니스 인텔리전스 월드 2003년 여름 pp. 28-33

데이터마이닝-데이터

2009-11-02T12:46:19Z

최초작성일: 2009.11.2 최종갱신일: 2009. 11. 0x

작성자:김선태 stkim@kisti.re.kr 042-869-1892 010-5025-6182

데이터 집합 = 데이터 모임

데이터 집합(data set)은 데이터 객체(data object)의 모임

데이터 객체 = 레코드 = 점 = 패턴 = 사건 = 사례 = 표본 = 관찰 = 개체

데이터 객체는 다수의 속성(attribute)에 의해 기술된다.

속성 = 변수 = 특성 = 필드 = 특징 = 차원

-속성(attribute)이란 객체에 따라 또는 시간에 따라 변하는 객체의 특성이다.

-척도(measurement scale)란 수치나 기호 값을 객체의 속성에 부여하는 규칙(함수)이다.

-측정(measurement) 과정은 특정 객체의 특정 속성에 하나의 값을 연관시키기 위해 척도를 적용하는 것이다.

-속성의 타입을 보통 척도의 타입(type of a measurement scale)이라고 함

속성	타입	설명	예제
범주적(정성적) categorical(qualitative)	명목형	한 객체를 다른 객체와 구분하는 데 사용
	서열형	객체의 순서를 정하는데 사용	광석의 경도, {좋은, 더 좋은, 최상}, 등급, 도로번호
수치적(정량적) numeric(quantitative)	구간	값들 간의 차이가 의미있음. 측정의 단위가 존재(+, -)	달력날짜, 섭씨 및 화씨온도
	비율	차이와 비율이 모두 의미 있음(*, /)	절대온도, 화폐수량, 개수, 나이, 질량, 길이, 전류

이산(discrete)형 속성은 유한개의 값 또는 셀 수 있는 무한 집합의 값을 갖는다. 범주적, 수치적일 수 있음. 이진속성(binary attribute)은 이산형 속성의 특수한 경우

연속(continuous)형 속성은 실수 값을 가지며 온도, 높이 깊이와 같은 속성을 예로 들수있다. 보통 부동 소수점 변수로 표현.

비대칭 속성의 경우, 존재(0이 아닌 속성값)만이 중요하게 간주된다.

0이 아닌 값들만이 중요한 이진 속성을 비대칭 이진 속성(asymmetric binary attribute)이라 함.

데이터 집합의 일반적 특징

-차원(dimensionality)은 데이터 집합의 객체들이 소유하는 속성의 수.

cf. 차원의 저주(curse of dimensionality), 차원감소(dimensionality reduction)

-희소성(sparsity)은 비대칭 특징을 가진 것과 같은 일부 데이터 집합의 경우, 객체 대부분의 속성들이 0의 값을 가진다. 0이 아닌 값들만을 저장하고 조작하면 되므로 장점이 된다.

-해상도(resolution)가 너무 상세하면 패턴은 보이지 않거나 잡음 안에 숨겨질 수 있다.

레코드 데이터

다수의 데이터 마이닝 작업은 데이터 집합을 레코드들(데이타 객체들)의 모임으로 간주하고 레코드 각각은 데이터 필드들(속성들)의 고정 집합으로 구성된 것으로 간주한다. 관계데이터베이스는 분명히레코드의 모임 이상이지만 데이터 마이닝에서는 대개 관계 데이터베이스가 제공할 수 있는 추가적인 정보를 활용하지 않는다.

종류로는

-트랜잭션(transaction) 또는 장바구니 데이터(market basket data)

-데이터행렬(data matrix) 또는 패턴 행렬(pattern matrix)

-희소 데이터 행렬(sparse data matrix) -> 문서-용어 행렬(document-term matrix)가 흔한 예

서열형 데이터

일부 타입의 데이터는 속성들이 시간이나 공간 상의 순서와 관련된 관계를 가진다.

-순차 데이터(sequential data) 또는 시간 데이터(temporal data)

-서열 데이터(sequence data)-> 단어나 글자의 서열과 같이 개별 개체의 서열로 된 집합으로 구성. 순차 데이터와 유사하지만 시간 표시가 없는 대신 순서를 가진 서울 안에서 위치가 주어진다.

-시계열 데이터(time series data)-> 순차 데이터의 특수한 타입으로 각 레코드가 시계열(time series), 즉 시간이 경과하면서 측정한 값들로 구성된다. 시간 데이터에 대한 작업 시 두개의 측정이 시간적으로 가까우면 그러한 측정값들도 종종 매우 유사해지는 시간 자동상관(temporal autocorrelation)을 고려하는 일이 중요.

-공간 데이터(spatial data)-> 물리적으로 가까운 객체들이 다른 방식에서도 유사해지는 경향이 있는 공간 자동상관(spatial autocorrelation)이다. 그러므로 지구상에 가까운 두 점은 온도나 강수량에서 유사한 값을 가진다.

[단어정리]

autocorrelation(수리과학)
자기상관 (自己相關) 시계열 데이터에서 현재 상태가 과거 및 미래 상태와 밀접한 연관을 가지고 있는 것.

autocorrelation(토목건축)
자기상관 (自己相關) 어떤 현상이 시간 간격을 두고 관련성을 갖는 상황.

autocorrelation(생명과학)
자기상관 (自己相關) 시계열 데이터에 내재하는 시점간의 상관.

허용 가능 변환(permissible trasformation)

경우의 수

2009-10-27T14:47:03Z

최초작성일: 2009.10.27 최종갱신일: 2009. 10. 2x

작성자:김선태 stkim@kisti.re.kr 042-869-1892 010-5025-6182

경우의 수

합의 법칙 -> A 또는 B (+)

예) 주사위 두개 던져서 합이 4 or 5가 되는 경우의 수

1, 3 / 3, 1 / 2, 2 + 1, 4 / 4, 1 / 2, 3 / 3, 2 7가지

곱의 법칙 -> A 동시에 B (x)

예) 도시 A에서 B로 가는 길 3가지, B에서 C로 가는 길 2가지가 있을 때, A에서 B를 거쳐 C로 가는 길은 몇가지 인가?

2 x 3 = 6가지

순열(permutation)

-순서를 주어 열 세운것

-!는 계승이라 읽는데 계속 곱하라는 의미

중복순열과 원순열

-중복순열

-원순열: 배경이 없음. 순서만 같으면 같은 것으로 인정

예를들어 1,2,3,4,5 로 원순열을 만든다고 할때

조합

-순열은 뽑기는 뽑되 순서를 주어 열을 세우는 것

-조합은 줄을 세우는 것이 아님.

이산확률분포

2009-10-27T12:52:09Z

최초작성일: 2009.10.27 최종갱신일: 2009. 10. 29

작성자:김선태 stkim@kisti.re.kr 042-869-1892 010-5025-6182

확률분포

-한 변수가 어떤 실험이나 관찰의 결과로 나타날 수 있는 모든 상황과 각 상황이 나타날 확률을 표시한 것

-확률분포의 모양은 확률변수의 종류에 따라 달라짐

이산확률분포

-이항분포, 포아송분포,초기하분포 등

이항분포(binominal distribution)

베르누이시행(Bernoulli trial)

-실험의 결과 또는 표본을 뽑은 결과가 상호배타적인 두 가지 사건으로만 나타나는 경우. 예를들어 동전, 성별, 주사위에서 1이 나오는 경우와 그렇지 않았을 경우 등. 이러한 시행을 베르누이시행이라 한다.

-각 시행의 결과는 상호배타적인 두 사건으로 구분

-각 시행은 서로 독립적

-성공과 실패가 나타날 확률의 합은 언제나 1이다.

이항실험

-여러번의 베르누이시행을 할 때 특정횟수의 성공이 나타날 확률을 알고 싶어하는 경우 이와같은 실험

이항확률분포

-시행횟수 또는 성공확률에 따라서 확률분포의 모양이 달라진다.

-이항실험의 결과

-事前的이며, 선험적인 분포. 즉 수십차례, 수백 차례에 걸친 베르누이시행을 실제로 해보지 않더라도 시행횟수 n과 성공의 확률 p값만 알고 있으면 그 분포의 모양과 확률변수의 확률을 알 수 있다.

-n의 크기에 따라 분포 범위가 결정

-p의 크기에 따라 분포의 대칭정도가 결정

-이항실험횟수 n이 적더라도, p=0.5일 때에는 확률분포는 언제나 대칭을 이룸

-p=0.5가 아니더라도, 이항실험횟수 n이 커지면 확률분포는 대칭에 가깝다

-이항분포에서 확률변수의 기대값, 표준편차, 분산

-이항분포표

참고---------------------------------------------------------------------------------------------

事前的 = 어림짐작의

선험적 = 직관적으로

-------------------------------------------------------------------------------------------------

포아송분포(Poisson distribution)

-시행횟수 n이 아주 크고 성공확률 p가 매우 적은 이항분포의 대표적인 경우

-일상생활뿐만 아니라 물리학이나 생물학에서도 자주 사용

-일정한 시간 또는 공간에서 어떤 사건이 무작위로 발생할 때, 그 사건이 일어날 횟수와 그에 대응되는 확률을 나타내는 분포

-시행횟수 n이 비교적 크고 성공확률 p가 매우 적은 이항분포의 경우에는 포아송 분포를 사용해서 이항분포의 확률을 근사적으로 구할 수 있다.

-이항분포에서 np=μ 이고, n→∞, p→0일 때의 극한분포가 포아송분포가 된다. 즉 이항분포에서 확률변수의 기대값 μ가 일정한 상황에서 n이 크고 p가 작으면 이항분포는 포아송분포와 거의 같은 확률을 갖는다. 대체로 n이 크고 p가 작으며 np=μ가 5보다 작을 때에는 이항분포 대신 포아송분포를 사용해도 성공횟수에 대한 확률의 차이는 거의 없다.

e는 자연로그의 밑수로 사용되는 실수로서 약 2.71828의 값을 가지며, μ는 어느 단위시간 동안 평균적으로 발생하는 사건의 수를 말함

포아송분포표

초기하분포(hypergeometirc distirbution)

-매시행마다 발생할 결과가 성공과 실패의 두가지가 있으나(상포배타적), 표본이 비복원으로 추출되기 때문에 베르누이시행의 조건, 즉 매시행마다 성공확률이 일정하다는 조건이 마족되는 않는 경우에 적용될 수 있는 확률모형이다

-매시행이 독립적일 때에는 이항분포, 그리고 매시행이 종속적일 때에는 초기하분포를 이룬다.

-초기하분포의 확률함수

binomial_table-tlentlen[1].pdf

binomial_table_2-tlentlen[1].pdf

poisson_cdf_table-tlentlen[1].pdf

tablepoisson-tlentlen[1].pdf

tag : 초기하분포, 이항분포, 이산확률분포, 포아송분포, 이항분포표, 포아송분포표

확률분포

2009-10-27T07:42:46Z

최초작성일: 2009.10.26 최종갱신일: 2009. 10. 27

작성자:김선태 stkim@kisti.re.kr 042-869-1892 010-5025-6182

확률변수(random variable)

-일정한 확률을 가지고 발생하는 사건에 수치를 부여한 것

-보통 X로 표시 함

확률분포(probability distribution)

-어떤 확률변수가 취할 수 있는 모든 값들과 이 값들이 나타날 확률을 표시한 것

이산확률변수(discrete random variable)

-일정범위내의 실수 사이에서 확률변수가 취할 수 있는 값의 수가 유일한 변수

-이산확률변수의 분포를 이산확률분포(discrete probabilty distribution)이라 함

-이항분포가 대표적인 분포

연속확률변수(continuous random variable)

-확률변수가 취할 수 있는 값의 수가 무한한 변수

-연속확률변수의 분포를 연속확률분포(continuous probabiblity distribution)이라 함

-정규분포가 대표적인 분포

기대값(expected value)

-평균값(average, weighted averate)와 같은 개념

-확률변수가 취할 수 있는 모든 값들의 평균

-다음과 같이 표시

-기대값의 계산은 다음과 같이 함

-기대값 연산

분산과 표준편차

-확률분포의 성격은 집중화경향(기대값)과 분산도(분산과 표준편차)의 두 가지로 분석하는 것이 보통

분산의 계산

-확률변수들이 기대값 E(X)를 중심으로 얼마나 흩어져 있는가를 나타낸다.

-선태생각인데.. 확률변수들이 기대값 E(X)를 중심으로 흩어져있는 정도의 기대값이라 해도 될것 같음. ㅎㅎ

표준편차의 계산

분산과 표준편차의 특성

결합확률분포(joint probability distribution)

-두 개 이상의 확률변수가 관련된 확률분포

-결합확률분포의 기대값

주변확률분포

-X와 Y의결합분포에서 X 또는 Y의 어느 하나만의 확률분포를 말하며, 결합확률분포의 주변(margine)에 표시되기 때문에 이를 주변확률분포라 함

공분산(covariance)

-확률변수 X와 Y의 공분산이란 두 확률변수의 분포가 결합될 때 그 결합확률분포의 분산을 측정하는 것으로 Cov(X,Y)로 표시한다.

-결합확률분포와 관련된 거승로 통계분석에서 많이 사용되는 개념

tag : 분산, 정규분포, 표준편차, 확률분포, 기대값, 결합확률분포, 주변확률분포, 공분산, 결합확률분포기대값

확률이론

2009-10-24T14:07:34Z

최초작성일: 2009.10.24 최종갱신일: 2009. 10. 26

작성자:김선태 stkim@kisti.re.kr 042-869-1892 010-5025-6182

확률의 정의

-상대빈도정의

-동등발생정의

집합이론과 확률이론

구분	확률이론	집합이론
실험이나 관찰에서 얻은 결과	사건 또는 사상(event)	집합(set)
여러 개의 사건 가운데 한 개의 사건	단일사건(simple event)	원소(element)
실험이나 관찰에서 생길 수 있는 모든 사건의 모임	표본공간(sample space)	전체집합(universal set)

-확률의 덧셈법칙(addition law)은 집합이론에서 합집합의 개념에 대응되는 확률

-확률의 곱셈법칙(multiplication law)은 집합이론에서 교집합의 개념에 대응되는 확률

확률의 공리

여사건(complementary event)

두 집합이 서로 배타적(mutually exclusive)

조건부확률(conditional probability) 어떤 사건이 일어난 또는 일어날 조건하에서, 즉 변화된 표본공간에서 어떤 사건이 일어날 확률을 말한다.

사상 A가 발생했다는 조건하에서 사상 B가 발생할 확률은 기호를 이용하여 나타내면 P(B|A)로 쓰며, "사건 A가 발생할 조건하에서 사건 B가 발생할 확률"이라고 읽는다.

확률의 곱셈법칙

-A와 B가 동시에 일어날 확률 = (A가 일어날 확률)과 (A가 일어난 다음 B가 일어날 확률)을 곱한 것과 같다

의사결정수(decision tree)

-여러 단계를거치는 확률실험에서 나타날 수 있는 모든 가능한 결과를 그린 것

독립사건(indepedent event)

-처음에 어떤 결과가 나왔느냐 하는 것이 다음 어떤 사건이 발생할 확률에 아무 영향을 주지 않는다. 이때 두 사건을 독립사건이라고 한다.

-반대는 조건부확률처럼 한 사건의 발생이 다음에 발생할 사건에 영향을 주는 경우 종속사건(dependent event)라 한다.

종속사건의 곱셈법칙(예-비복원추출)

독립사건의 곱셈법칙(예-복원추출)

베이즈정리(Bayes' theorem)

-확률법칙을 응용하는 대표적인 방법

-사전에 알고 있는 정보에 기준을 두고 어떤 사건이 일어나게 될 확률을 계산하는 이론

-실험의 결과로써 얻은 정보를 토대로 하여 어떤 사건의 알려져 있지 않은 확률을 구하려고 하는 가장 간단한 방법

tag : 공리, 확률, 조건부확률, 확률의공리

분포의 특성

2009-10-23T21:46:15Z

최초작성일: 2009.10.23 최종갱신일: 2009. 10. 26

작성자:김선태 stkim@kisti.re.kr 042-869-1892 010-5025-6182

대칭이 아닐 때에 중앙값은 항상 평균과 최빈값 사이에 있다.

-왼쪽꼬리분포(skewed to the left)

-오른쪽꼬리분포(skewed to the right)

집중화경향의 특징

-산술평균

극단적인 관찰값이 있을 때에는 평균계산에 너무 큰 영향을 끼쳐 대표값으로 부적당.

집단이 여러 개일 때에도 가중평균에 의해 전체집단의 산술평균을 구할 수 있음.

-중앙값

비대칭분포에서는 다른 집중화경향을 나타내는 척도들보다 그 집단의 대표값으로 적절함.

양극단의 구간이 ~이상 또는 ~이하로 표현된 개방구간(open-ended interval)인 경우에 산술평균은 구할 수 없지만, 중앙값이나 최빈값은 구할 수 있다.

-최빈값

한 집단의 대표값을 가장 빠르게 알아보고자 할 때에는 편리

분포가 정규분포에 가깝지 않을 때에는 신뢰할 수 있는 대표값이 되지 못함

분산도(dispersion)

관찰값 분포 분석시 집중화경향뿐만 아니라 관찰값들이 흩어져 있는 정도를 살표보는 것도 중요.

관찰값의 흩어져 있는 정도를 분산도라고 함.

범위, 평균편차, 표준편차, 분산으로 분산도를 나타냄

범위

-자료의 집단 중에서 가장 큰 수치와 가장 작은 수치의 차이에 1을 더한 것.

-수치가 큰 경우 1을 더하지 않아도 무방

-극단적인 수치들 사이에서의 분포양상은 전혀 설명 못함

평균편차(mean deviation)

-관찰값과 산술평균과의 아이들의 평균

-AD로 표시.

-평균의 특성때문에 언제나 0이 되기 때문에 절대값 부호를 사용

-각 관찰치가 평균에서부터 얼마만큼 떨어져 있는지를 구체적으로 알려주기는 하지만 절대적 의미에서 떨어져 있는 정도가 큰지 적은지를 가르쳐 주지는 않음. 따라서 두 집단 이상의 평균편차를 구하여 상대적으로 비교하지 않으면 평균편차는 별로 큰 의미를 주지 못함

tag : 통계, 분포, 확률, 평균, 평균편차