학습률이란 무엇인가?
학습률은 모델의 가중치를 업데이트할 때 각 훈련 단계의 크기를 조절하는 숫자입니다. 이는 모델이 얼마나 빠르거나 느리게 학습하는지를 결정합니다.
학습률이 중요한 이유
- 너무 높음: 모델이 불안정해지거나 학습에 실패합니다.
- 너무 낮음: 훈련이 매우 느려집니다.
- 적당함: 부드럽고 효율적인 학습.
좋은 학습률 선택하기
- 작게 시작하기 (0.001이 일반적임)
- 학습률 스케줄 사용하기
- 훈련 중 손실 모니터링하기
학습률 FAQ
훈련 중 학습률이 변경될 수 있나요?
네—스케줄과 최적화 도구는 종종 시간이 지남에 따라 이를 줄입니다.
잘못되면 어떻게 되나요?
나쁜 정확도 또는 훈련 실패가 발생합니다.