Neural Network가 작동하지 않는 37가지 이유

I. 데이터세트 문제
1. 입력 데이터 확인
2. 무작위 입력 시도
3. 데이터 로더 확인
4. 입력이 출력에 연결되어 있는지 확인
5. 입력과 출력 사이의 관계가 무작위인지 확인
6. 데이터세트의 노이즈 확인

 

 

7. 데이터세트 섞기
8. 클래스 불균형을 축소
9. 충분한 학습이 되었는지 확인
10. 배치에 단일 레이블이 없는지 확인
11. 배치 크기 축소

II. 데이터 정규화 / 확대
12. 피처 표준화
13. 갑작스런 데이터 증가 확인
14. 사전 모델링된 모델의 전처리 확인
15. train / validation / test set에 대한 전처리 검사

III. 구현 문제
16. 문제의 간단한 버전으로 해결
17. 정규화없이 작은 파라미터로 초기화
18. 손실 함수 확인
19. 손실 입력 확인
20. 손실 가중치 조정
21. 다른 측정 항목 모니터링
22. 모든 구현 레이어 테스트
23. “고정된”레이어 또는 변수 확인
24. 네트워크 크기 늘리기
25. 히든 디멘전 오류 확인
26. 그라디언트 검사

원문
http://www.kdnuggets.com/…/37-reasons-neural-network-not-wo…

Tags:

Neural Network

신경망

NN

DNN

데이터세트

정규화

손실

노이즈