✅네이버클라우드 캠프/개발일기
[네이버클라우드캠프] 12일차. 인공지능 기초 개념정리 3 & 딥러닝 keras, sklearn 실습 (train_test_split, mode
★ optimizer 개념정리 1. Gradient Descent (경사하강법) ■ 설명 함수의 기울기(Gradient)를 계산하여 손실 함수의 값이 가장 작아지는 방향으로 일정한 크기만큼 이동하는 것. 이 과정을 반복하면서 최적의 매개변수 값을 찾아가는 방법 ■ 문제점 1. 극소값(local minimum)에 도달할 수 있다는 것이 증명되었으나 전체 최소값(global minimum)으로 갈 수 있다는 보장은 없음. 극소값에 머물러 있다는 단점. 2. 훈련이 느림 2. Momentum ■ 설명 Optimizer 이며, GD의 문제를 해결하기 위해 보편적으로 사용되는 방법 ■ 보완점 관성(momentum)을 적용하여 변수가 가던 방향으로 계속 가도록 속도(velocity)를 추가한 것 global min..
