이사님의 말 "이런 저런 값으로 모델을 많이 만들어서 테스트 세트로 평가하면 결국 테스트 세트에 잘 맞는 모델이 만들어지는 것 아닌가요?" 지금까지는 훈련세트와 테스트 세트만을 이용해서 모델을 평가 해왔다. 왜? 복잡하게 설명한느 것을 피하기 위해서.. 하지만 3개의 세트로 나눠서 모델을 훈련하는 게 바람직한 방법입니다. 즉 테스트 세트를 사용해 자꾸 성능을 확인하다보면 점점 테스트 세트에 맞추게 되는 것이다. 이제부터 올바르게 예측하려면? 모델을 만들고 나서 마지막에 딱 한번만 테스트 세트를 사용하는 것이 좋다. 그렇다면 max_depth매개변수를 사용한 하이퍼파라미터 튜닝을 어떻게 할 수 있을까? 검증세트를 사용하자~! ----- 검증세트 테스트 세트를 사용하지 않으면 모델이 과대적합인지 과소적합인지..