분류 전체보기83 역전파(backpropagation) + 미분 역전파에 대한 강의나 수식이 비전공자인 나에게 잘 와닿지 않아 내가 이해한 가장 간단하고 쉬운 방법으로 역전파의 미분을 정리해보았다. 역전파는 신경망의 각 노드가 가지고 있는 가중치(Weight)와 편향(Bias)을 학습시키기 위한 알고리즘 목표(Target)와 모델의 예측 결과(Output)가 얼마나 차이가 나는지 확인하고 그 오차를 바탕으로 가중치와 편향을 뒤에서부터 앞으로 갱신해가는 것을 의미한다. 역전파란 명칭도 바로 이처럼 뒤에서부터 다시 앞으로 거슬러 올라간다는 것에서 나온 것이다. 위 과정을 이해하려면 미분에 대해 알아야 한다. 미분 미분은 함수 ff의 주어진 점 (x,f(x))(x,f(x))에서의 접선의 기울기를 구하는 과정이다. y증가량/ x증가량 좀 더 간단히, 위 그림을 두고 말하자면.. 2022. 7. 8. Loss Function, Cost Function, Objective Function의 차이 모델을 학습할 때는 비용(cost) 즉, 오류를 최소화하는 방향으로 진행이 된다. 비용이 최소화되는 곳이 성능이 가장 잘 나오는 부분이며, 가능한 비용이 적은 부분을 찾는 것이 최적화(Optimization)이고, 일반화(Generalization)의 방법이라고 할 수 있다. 이 비용(cost) 혹은 손실(loss)이 얼마나 있는지 나타내는 것이 비용 함수(Cost Function), 손실 함수(Loss Function)이라고 할 수 있다. input(x)에 대한 예측값(y^)과 실제 label값(y) 사이의 오차를 계산하는 함수이다. 하나의 input data에 대해서 오차를 계산하는 함수를 Loss function이라고 한다. 모든 input dataset에 대해서 오차를 계산하는 함수를 Cost f.. 2022. 6. 26. ML 모델의 종류(classification) 분류(classfication) : 주어진 데이터(X)를 분류하고자 하는 값(y)에 할당하는 방법 - 분류란 주어진 input data를 찾고자 하는 target value에 assign하는 것을 말한다. - 비슷한 특징을 가지는 데이터가 같은 부류로 나눠지는 것은 상대적으로 가까운 feature vector들이 같은 target value를 부여받은 것이다. ex) 고양이 사진을 머신러닝 모델이 판단해서 'cat' 이라고 Label을 부여한다. 여기서 라벨은 0 또는 1로 표기하는 것이 일반적 주어진 이미지는 feature vector로 표현된다. 머신러닝 분류 모델을 거치면, inference 결과로 0 또는 1이 나오도록 하는 문제를 ''binary classification" 이라고 한다. 머신러.. 2022. 6. 21. 파이썬의 자료구조(List, Tuple, Set, Dictionary) 파이썬의 자료구조 List 순서가 있다. 리스트는 [ ] 로 둘러쌓여있다. list( ), 리스트는 그 값의 생성, 삭제, 수정이 가능 관련 함수 리스트에 요소 추가(append)리스트 안에는 어떤 자료형도 추가할 수 있다. 리스트 정렬(sort) sort 함수는 리스트의 요소를 순서대로 정렬해 준다.문자 역시 알파벳 순서로 정렬할 수 있다. 리스트 뒤집기(reverse)reverse 함수 : 리스트를 역순으로 뒤집어 준다. 이때 리스트 요소들을 순서대로 정렬한 다음 다시 역순으로 정렬하는 것이 아니라 그저 현재의 리스트를 그대로 거꾸로 뒤집는다 위치 반환(index) index(x) 함수는 리스트에 x 값이 있으면 x의 위치 값을 돌려준다. 리스트에 요소 삽입(insert) insert(a, b)는 리.. 2022. 4. 10. 이전 1 ··· 13 14 15 16 17 18 19 ··· 21 다음
