머신러닝3

 

 

 

Decision Tree : 결정트리, 의사결정나무, 결정나무
- KNN : 주변에 있는 이웃들을 검색하는 알고리즘
- 질문을 순차적으로 나열해서 데이터를 구분하는 알고리즘
- 가장 먼저 던지는 질문 : Root Node
  가장 중요한 질문--> 가지고 있는 데이터를 가장 잘 구분할 수 있는 질문
- 가장 마지막에 던지는 질문 : Leaf Node
  더이상 질문이 나열되지 않는 상태, 상대적으로 덜 중요한 질문
- 각 질문의 중요도를 구분하기 위해 사용하는 지표 : 지니불순도, 엔트로피
  ==> 각 데이터가 얼마나 섞여있는지를 판단
  많이 섞여있을수록 : 불순도가 높
  조금 섞여있을수록 : 불순도가 낮
- 불순도가 가장 낮은 것을 가장 중요한 질문 ==> DecisionTree 알고리즘