반응형 Ray1 [Pytorch] Hyper-parameter Tuning , Pytorch Troubleshooting 1. Hyper-parameter Tuning 모델의 성능이 잘 안 나오면 보통 모델을 바꾸거나, 데이터를 바꾸거나, Hyper-parameter를 Tuning한다. 이 중 성능 향상에 큰 기여는 하지 않지만 좋은 데이터와 모델을 통해 어느 정도 성능을 갖추었을 때 미세하게 성능 향상을 할 수 있는 Hyper-parameter Tuning에 대해 알아보자. ■ Hyper-parameter Search Hyper-parameter를 탐색하는 가장 기본적인 방법에는 grid search와 random search가 있다. 아래 그림에서 왼쪽은 grid search를 나타내고 오른쪽은 random search를 나타낸다. Grid search를 예를 들면, learning rate를 가로축으로 하여 0.1 0.. 2021. 8. 21. 이전 1 다음 728x90 반응형
