로스윗의 스윗~한 머신러닝 로지스틱 회귀(Logistic Regression)

로스윗의 스윗~한 머신러닝 로지스틱 회귀(Logistic Regression)

 

안녕하세요.

 

로스윗의 코딩캠프입니다.

 

오늘은 머신러닝의 분류 모델 중 하나인 Logistic Regression에 대해서

 

한 번 같이 알아볼까요~?

 

 

 

 

-로지스틱 회귀(Logistic Regression)란?

 

--> 주어진 데이터(X)를 통해서 사건의 발생 확률(y)를 예측하는 통계 모델.

로지스틱 회귀(Logistic regression)은 대표적인 이진분류 모델입니다.

비교적 데이터가 간단할 때 빠른속도로 모델을 만들어주는 특징이 있습니다.

로지스틱 회귀(Logistic regression)은 선형회귀(Linear Regression)을 분류 모델로써 확장한 모델입니다.

 

 

*Linear Regression이란?
전체 데이터의 경향성을 파악하는 선형식을 구하는 방법

기본적으로 선 하나로 특정 값을 예측하는 것을 목표로 합니다.
특정 값을 찾기 위해서는 주어진 데이터(training data)의 패턴을 찾아야 합니다.
그 패턴을 선형식으로 파악하는 것이 Linear Regression이라고 합니다.
이 직선은 각 데이터 간에 에러가 가장 작은 직선입니다.
이 선을 통해 어떤 값을 예측할 수 있습니다.

 

즉, Logistic regression은 데이터의 경향성을 가지고 확률값을 예측하는 분류모델입니다.

또한 Logistic regression은 매우 잘 알려진 통계적 기법이로 다양한 분류 문제에 활용합니다.

 

 

 

 

- 로지스틱 회귀(Logisitc Regression)탄생 배경

선형 회귀(Linear Regression)은 특정 수치값을 예측하는것에는 좋지만,

특정 카테고리를 예측하는데는 적합하지 않았습니다.

그래서 선형회귀(Linear Regression) 결과에 적당한 함수를 적용하여 output score를 0과 1사이의 값으로

 

변환하는 것으로 카테고리가 나올 확률을 예측하는 문제로 변환합니다.

이 확률값은 예측값이 1이 될 확률이며, 이 확률이 0.5를 넘기면 1로 에측하고 

 

그렇지 않다면 0으로 예측하는 분류 모델로써 사용할 수 있습니다.

 

 

 

 

- 로지스틱 회귀(Logisitc Regression) 작동 원리

input X가 들어가고 선형회귀(linear regression)의 수식값이 나오고

 

그 값을 logit function (또는 시그모이드 함수(sigmoid function))에 넣으면 0과 1사이의 값이 나옵니다.

 

그러면 그 값은 타겟 벨류(target value)가 1이 될 확률입니다.

 

일반적으로 0.5를 넘으면 1, 낮으면 0이라고 예측값을 출력합니다.

 

 

 

-로지스틱 회귀(Logisitc Regression) 학습 과정

학습은 Logit function을 미분하고 gradient값을 계산해서 loss가 줄어드는 방향으로

 

W와 b파라미터를 업데이트하며 학습이 이뤄집니다.

업데이트 되는 파라미터는 여전히 W와 b입니다.

 

오늘은 여기까지 간단하게 로지스틱 회귀에 대해서 알아보았습니다.

 

다음 포스팅도 많이 기대해주세요~

 

감사합니다!!

 

머신러닝 엔지니어가 되고 싶은 분들에게..

머신러닝 엔지니어가 되고 싶은 분들에게..

한 눈에 이해하는 머신러닝 전과정

한 눈에 이해하는 머신러닝 전과정