TIL 2023.05.16

머신러닝 주차 시작

 

인공지능 > 머신러닝 > 딥러닝

인공지능 안에 머신러닝 안에 딥러닝이 있다고 이해하면 된다.

 

회귀 (Regression)

출력값이 연속적인 소수점으로 예측하게 하도록 푸는 방법

 

분류 (Classification)

0이면 미이수(Fail), 1이면 이수(Pass)의 경우를 이진 분류(Binary classification)이라고 부른다.

클래스를 5개의 클래스로 나누고 이 방법을 다중 분류(Multi-class classification, Multi-label classification)라고 부른다.

 

머신러닝은 크게 3 가지로 분류된다. 지도/비지도/강화 학습

지도 학습(Supervised learning): 정답을 알려주면서 학습시키는 방법

비지도 학습 (Unsupervised learning): 정답을 알려주지 않고 군집화(Clustering)하는 방법

강화 학습(Reinforcement learning): 주어진 데이터없이 실행과 오류를 반복하면서 학습하는 방법 (알파고를 탄생시킨 머신러닝 방법!!)

 

선형 회귀 (Linear Regression)

정확한 결과를 예측하기 위해 임의의 직선(가설)과 점(정답)의 거리가 가까워지도록 하는 것(=mean squared error)

여기서 H(x)는 우리가 가정한 직선이고 y 는 정답 포인트라고 했을 때 H(x)와 y의 거리(또는 차의 절대값)가 최소가 되어야 이 모델이 잘 학습되었다고 말할 수 있을 것

여기서 우리가 임의로 만든 직선 H(x)를 가설(Hypothesis)이라고 하고 Cost를 손실 함수(Cost or Loss function).

다중 선형 회귀(Multi-variable linear regression): 입력값이 2 개 이상일 때

 

경사 하강법 (Gradient descent method)

컴퓨터는 사람처럼 수식을 풀 수 없기때문에 경사 하강법이라는 방법을 써서 점진적으로 문제를 풀어갑니다. 처음에 랜덤으로 한 점으로부터 시작합니다. 좌우로 조금씩 그리고 한번씩 움직이면서 이전 값보다 작아지는지를 관찰합니다. 한칸씩 전진하는 단위를 Learning rate라고 부르죠. 그리고 그래프의 최소점에 도달하게 되면 학습을 종료하면 되겠죠.

 

https://www.kaggle.com/

Kaggle: Your Machine Learning and Data Science Community

Kaggle은 데이터 사이언티스트를 위한 커뮤니티입니다! 다양한 데이터셋이 공개되어 있어 직접 분석해보고 결과를 공유하고 서로 비교해볼 수도 있고, 기업 및 단체에서 올린 문제를 풀어 상품을 받을 수도 있습니다.

 

논리 회귀 (Logistic regression)

Logistic function(=Sigmoid function)

Crossentropy

 

다항 논리 회귀 (Multinomial logistic regression)

다항 분류 (Multi-label classification) 문제를 풀 때

One-hot encoding

Softmax

 

전처리(Preprocessing)

정규화 (Normalization)

표준화 (Standardization)

 

딥러닝(Deep learning)

Deep neural networks

Multilayer Perceptron(MLP)

XOR 문제

 

어렵다