AI

AutoML(Grid Search, Random Search)

땅콩새싹 2021. 7. 29. 09:38
반응형

 


 

그리드 서치 (Grid Search) 와 랜덤 서치 (Random Search)

그리드 서치란 관심 있는 매개변수들을 대상으로 가능한 모든 조합을 시도하여 최적의 하이퍼파라미터 값을 튜닝하는 방법으로 python의 scikit-learn에서 제공합니다. 그리드 서치는 모든 조합에 대해 평가를 징행하기 때문에 계산 비용이 매우 비싸고 시간이 오래 걸린다는 단점이 있습니다.

랜덤 서치는 정해진 범위에서 난수를 생성해 최적의 하이퍼파라미터 값을 찾습니다. 하이퍼 파라미터는 상대적 중요도가 서로 다르고 랜덤 서치는 중요한 파라미터를 더 많이 탐색할 수 있기 때문에 최적화하기에 유리합니다. 실제로 논문에서 랜덤 서치가 더 적은 탐색 기회로 더 좋은 결과를 냈다는 지표도 있습니다. 랜덤 서치는 언제든지 탐색을 중단할 수 있습니다. 중간에 멈추더라도 특정 범위에 편중된 탐색이 아니기 때문입니다. 

 

그리고 실습 중 발견된 에러

Check the list of available parameters with `estimator.get_params().keys() 에러 해결법 도와주세요..

 

 

반응형

'AI' 카테고리의 다른 글

랜덤 포레스트 vs 엑스트라 트리  (0) 2021.08.02
랜덤 포레스트 (Random Forest)  (0) 2021.08.02
교차 검증(cross validation)  (0) 2021.07.27
결정 트리 (Decision Tree) 실습  (0) 2021.07.23
결정 트리 (Decision Tree)  (0) 2021.07.22