[Machine Learning] 로지스틱 회귀분석 Scikit Learn으로 구현하기

 

 

 

https://piscesue0317.tistory.com/46

[Machine Learning] 로지스틱 회귀분석 (지도학습 / 분류)

 

 

먼저, 위 글은 로지스틱 회귀분석에 대한

 이론을 설명하고 있습니다.

 

 

 

---

 

 

 

https://piscesue0317.tistory.com/32

[Machine Learning] Scikit - Learn을 이용한 데이터 분석 (지도학습 / 분류)

 

 

 

또한, 위 글은 본 알고리즘 모델링을

하기 이전의 과정입니다.

 

해당 과정을 수행하여야 앞으로 진행되는

모델링이 가능합니다.

 

 

 

---

 

 

 

Scikit - Learn에서는 모델 선택과 훈련을 시킬 때

fit (학습)과 predict (적용) 의 순서를 따릅니다.

 

또한, 로지스틱 회귀분석 알고리즘의 경우,

최적의 하이퍼파라미터 탐색이 필요 없습니다.

 

 

 

* 하이퍼파라미터 : 모델링 시 사용자가 직접 지정해주어야 하는 옵션

 

 

 

모델 선택 및 학습

 

from sklearn.linear_model import LogisticRegression

model_lr = LogisticRegression()
model_lr.fit(X_train_pretained, y_train)

 

sklearn.linear_model 모듈에서 

LogisticRegression을 호출합니다.

 

 

 

모델 적용 및 성능평가

from sklearn.metrics import confusion_matrix
from sklearn.metrics import accuracy_score
from sklearn.metrics import recall_score
from sklearn.metrics import precision_score
from sklearn.metrics import f1_score

# 평가 데이터에 대한 전처리
X_test_prepared = full_pipeline.transform(X_test)  

# 평가 데이터에 대한 예측
y_test_hat = model_lr.predict(X_test_prepared)
y_test_prob = model_lr.predict_proba(X_test_prepared)

# 평가 데이터에 대한 평가
confusion_lr = confusion_matrix(y_test, y_test_hat) # confusion matrix
acc_lr = accuracy_score(y_test, y_test_hat) # accurcy
recall_lr = recall_score(y_test, y_test_hat, average = 'micro') # recall
precision_lr = precision_score(y_test, y_test_hat, average = 'micro') # precision
f1_lr = precision_score(y_test, y_test_hat, average = 'micro') # precision

print(confusion_lr)
print(f'acc_lr:{acc_lr}')
print(f'recall_lr:{recall_lr}')
print(f'precision_lr:{precision_lr}')
print(f'f1_lr:{f1_lr}')


print( f'probability_lr: {y_test_prob}')

 

평가 데이터도 훈련 데이터와 같은 방식으로

전처리를 해준 후, '.predict( )' 함수를 통해 예측을 진행합니다.

 

마지막으로 다양한 성능지표를 통해

모델을 평가하면 됩니다.