jisoleil's coding good thing

Shaply Value : 하나의 특성에 대한 중요도를 알기 위해 모든 가능한 조합에서, 예측값과 전체평균과의 각 차이에 각 feature가 얼마나 기여했는지 계산한값 SHAP(SHaply Additive exPlanations ): 모든 가능한 피처 순서쌍에 대해서 샘플링하고 평균 값을 계산 Tree 기반 알고리즘 TreeExplainer Deep Learning DeepExplainer SVM KernelExplainer 그외 일반 알고리즘 Explainer 1. 모델을 학습 model1 = RandomForestRegressor() model1.fit(x_train, y_train) 2. 해석 explainer1 = shap.TreeExplainer(model1) shap_values1 = expl..

다중공선성(선형회귀,로지스틱회귀) 선(선형) 성(성질) :통계학의 회귀분석에서 독립변수들 간에 강한 상관관계가 나타나는 문제 -> 학습용 데이터와 검증용 데이터로 나누어 회귀분석 성능을 비교하면 과최적화가 발생하였음을 알 수 있다. -> 독립변수가 서로 의존하게 되면 이렇게 과최적화(over-fitting) 문제가 발생하여 회귀 결과의 안정성을 해칠 가능성이 높아진다. 클래스 불균형(Class Imbalance) *진짜 당연한 상황이므로 놀라지 말자 ->.fit()을 통해 학습 ->전체 오차가 가장 적어지는 모델을 결과를 보여줌 즉,이런 상황일때 (target 비율) 1 0 0.2 0.8 1은 못맞추고, 0은 잘 맞춘다. 둘 다 잘 맞추기 위해서 sampling이 필요 1 0 원래 비율 20 80 dow..