결정트리 학습법
전공 스터디/기계학습 / 2017. 2. 1. 12:43
EX)
300명을 [150명 150명]으로 나뉘면 혼잡도(엔트로피)는 1이고 [300명 0명]으로 나무면 혼잡도(엔트로피)는 0이 된다.
[죽었냐 안죽었냐]를 성별로 나눈 것이 2번쨰 사진이다.
해서 각각의 엔트로피를 구하고
(상위엔트로피 - 하위엔트로피)(가중치를 둬서 한다!!)를 해서 정보획득량(IG)를 구하고 속성(성별 , 나이 ...등등)을 선택한다.
'전공 스터디 > 기계학습' 카테고리의 다른 글
| 딥러닝 - 선형회귀 , 로지스틱 , 신경망 구조 , 소프트맥스 , RNN (0) | 2017.03.04 |
|---|---|
| 다양한 회귀분석 간단정리 (0) | 2017.02.04 |
| 나이브 베이즈 예제 손수 해보기! (0) | 2017.02.01 |
| 나이브 베이즈 (0) | 2017.01.14 |
| 의사결정트리와 랜덤포레스트 (0) | 2017.01.14 |