by
Oct 01. 2021
22. 카지노사이트 추천 정확도 끌어올리기
타이타닉 프로젝트에서 남의 노트북을 배껴서 답안을 제출해 본 다음 내가 처음으로 선택해서 분석해 본두 번째 프로젝트였다. 사이킷런을 적용해 본다는 재미도 있었지만 역시나 아직 내공이 부족한 상태에서 단순히 알고리즘을 적용해 보는 것만으로는 카지노사이트 추천를 80% 이상 얻어내는 것이 어려웠다.
아래 내용에서 내가 두 번째 프로젝트의 카지노사이트 추천를 80% 이상으로 끌어올리기 위해 시도해 본 방법들을 소개한다.
한편 어떤 방법을 사용할 것인가에 못지않게 중요한 것이어떻게 평가할 것인가인데 실수값을 예측하는 회귀 문제의 경우 실제값과 예측값의 차이를 평균절대오차(Mean Absolute Error, MAE)나 평균제곱오차(Mean Square Error, MSE), 평균제곱근오차(RootMeanSquareError, RMSE) 등으로 평가할 수 있다.
특히 실제값과 예측값 차이를 제곱하고 이를 평균한 MSE는 오차가 제곱되는 만큼 이상치에민감할수 있는데그결과값에 대한 해석이 값이 작을수록 좋은 것이라는 카지노사이트 추천 간 상대적 평가만 가능하지 그래서 이 수치가 얼마나 좋은 모델인가에 대한 절대적인 기준에서 해석하기 어려운 것이 사실이다...그래서 일단 이번 프로젝트에서는 평가기준을 좀 더 직관적으로 와닿기 쉬운 MAE를 그대로 사용하기로 했다.
1) 선형회귀 카지노사이트 추천 적용
수치형 데이터를 예측할 때 카지노사이트 추천 지도학습 가운데 회귀 알고리즘을 사용하는데 앞서 사용한 의사결정나무, 랜덤 포레스트, XGBoost 회귀에 이어 선형회귀 알고리즘을 적용해 보기로 했다.선형회귀 알고리즘은 간단히 말하면 카지노사이트 추천에 가장 잘 맞는 선(line) 혹은 선형 방정식을 찾는 것이다.
역시 사이킷런의 선형회귀 알고리즘을 불러와 트레이닝 카지노사이트 추천를 훈련하고 테스트 카지노사이트 추천로 예측해 테스트 카지노사이트 추천의 실제값과오차를확인해 보자. 사이킷런의 선형회귀 카지노사이트 추천은 최적화해 볼만한 하이퍼 파라미터가 단순한데선형 방정식에 상수항을 넣을 것인지 말 것인지를 나타내는fit_intercept와 카지노사이트 추천 자체로 입력값을 스케일링할 수 있는normalize 정도가 있다.
리니어 리그레션 카지노사이트 추천을 적용한 결과선형 회귀를 적용한 결과 MAE가 2,105로 랜덤 포레스트을 적용했을 때 나온 베스트 결과인 1,516보다 오차가 크다. 앞서 사용한 카지노사이트 추천들과 함께 선형회귀 카지노사이트 추천도 포함해 LTV 이상치 처리, 종속변수 LTV 스케일링, 앙상블을 적용해 테스팅 해보았다.
2) LTV 아웃라이어 제거
예측 목표가 되는 LTV값 자체를 씨본 라이브러리를 활용해 살펴보면 LTV가 2만 달러 이하에 집중적으로 분포되어 있고 사분범위의 최대값(16,414)을 벗어나는 이상치 카지노사이트 추천가 많음을 알 수 있었다. 이상치 카지노사이트 추천는 819개로 전체 카지노사이트 추천의 약 10%에 해당한다.
카지노사이트 추천의 도메인 영역에 따라 획득할 수 있는 카지노사이트 추천의 값과 성격이 다르기 때문에 이상치를 처리하는 절대적인 기준은 없다고 하는데 그렇다면과연 이 10% 카지노사이트 추천를 제거하는 게 적절할까?이상치 카지노사이트 추천만 모아서 보면 원본 카지노사이트 추천에 비해 LTV 평균 자체는 8,000에서 25,573으로 훌쩍 높아졌지만 독립변수들 가운데 상관관계가 있었던Monthly Premium Auto와 Total Claim Amount 등 금액과 관련된 항목의 평균이 살짝 높아졌을 뿐 보험가입 기간이나 보험개수, 컴플레인 수 등에 있어 별 다른 차이는 없었다.
해당 카지노사이트 추천만으로는 LTV가 왜 그렇게 높은 지 별다른 이유가 없어 보인다. 그렇다면 이상치 카지노사이트 추천 819개를 제거한 카지노사이트 추천에 의사결정나무, 랜덤포레스트, XGBoost, 선형회귀 4개 알고리즘을 모두 적용해 보자.그 결과 랜덤포레스트 모델이 MAE가 약 362로 가장 낮으며 이는 이상치 제거 후 새로운 LTV 평균인 6,279달러의 약 5%에 해당하는 오차이다.
이상치를 제거한 후 베스트모델(랜덤포레스트)의 실제값과 예측값 분포3) 종속변수인 LTV값 스케일링
스케일링은카지노사이트 추천가한 쪽으로심하게치우친분포를보이거나컬럼항목의카지노사이트 추천값들이서로크기가달라회귀모델에영향을줄 수 있을때 이러한분포나값의크기의영향을줄이기위해사용하는 방법이다. 일반적으로스케일링은독립변수들에대해사용하는데문제는종속변수인 LTV 값의 분포가 심하게 한 쪽으로 치우친 경우 스케일링을 사용할 수 있을까하는 것이다.
예측 목표가 되는 LTV 값 자체를 스케일링 처리를 하게 되면 예측값이 아주 작거나 크게 나올 것이기 때문이다. 일단 LTV에 로그함수를 사용해 한 쪽으로 치우친 분포를 개선하고 이를 활용해 트레이닝하고 여기서 나온 값에 다시 반대가 되는 지수함수 처리를 함으로써 LTV 예측값을 만들고 실제값과 오차를 계산해보자.
원래 LTV 분포 vs. 로그변환 처리 후 LTV 분포