728x90 AI/모두를 위한 딥러닝 정리12 Day3. Gradient descent algorithm 만약 위와 같이 단순화시킨다면, dataset에 해당하는 W, cost(W)값은 아래와 같다. W=0, 2의 cost값이 같은 이유는 cost함수가 아래와 같은 2차식이기 때문이다. 위와 같은 식에서 cost function의 최소값을 구하기 위해선 기울기가 0인 부분을 찾아야 한다. 이때 기울기가 0인 부분을 찾기 위해 사용하는 것이 경사하강법(Gradient descent algorithm)이다. 경사하강법의 특징은 아래와 같다. - 주어진 cost function을 최소화하는데 사용함 - 많은 최소화 문제에 사용됨 - 주어진 cost function의 cost(W, b)에서 cost값을 최소화하는 W, b값을 찾아야 함 - 굉장히 많은 cost function을 최소화시킬 수 있는 알고리즘 경사하강.. 2022. 3. 5. Day2. regression의 원리와 간단한 구현 Regression > 어떤 Linear한 선을 찾는 것이 Regression(회귀) 학습이다. > 이때 Hypothesis(Linear한 선을 그리기 전에 임의로 그리는 일종의 가설)를 설정해야하는데 그 식은 아래와 같다. H(x) = Wx + b, W: 가중치 b: 편향값 Cost(Loss) function > 어떤 식이 data에 가장 잘 맞는 식인지 찾기 위해 Cost function을 사용하여 Cost가 최소화되는 식을 찾아야 한다. > 이때, H(x) = Wx + b이므로 아래와 같이 표현된다. > 그럼 다음시간엔 cost값을 최소화하는 방법에 대해서 배워볼 것이다. > 위와 같은 그림으로 코드가 실행됨 > 아래 코드는 순서대로 placeholder를 사용하지 않은 코드, 사용한 코드임 imp.. 2022. 2. 28. Day1. Machine Learning에서 사용하는 단어 Machine Learning이란? > 컴퓨터가 어떤 분야에 대해 학습능력을 지녔다면 ML이라 부를 수 있다. > explicit한 program보다 좋음(인간이 정해주지 못한 rule도 스스로 처리함) explicit: 명시적인, 명시의 1. Supervised learning(주로 다룰 것임) -라벨링된 데이터를 가지고 학습하는 것(dataset이 존재함) 2. Unsupervised learning -라벨링되지 않은 데이터를 가지고 학습하는 것 Supervised learning의 예시 - Image labeling - Email spam filter - Predicting exam score Train dataset 1. regression(회귀) ex) 공부시간에 따른 기말고사 시험 성적(0 ~.. 2022. 2. 26. 이전 1 2 다음 728x90
