DNN을 더 빠르고 선명하게 학습시키는 두가지 새로운 기술

DNN은 추론을 하는데 사용되는 많은 파라미터가 있습니다. 흔히 이 문제는 두가지면에서 문제를 일으 킵니다. 때때로 모델이 정확한 예측을하지 못하는 경우가 있으며 모델을 훈련시키는데 오랜 시간이 걸립니다. 이 글은 두가지 새로운 방법을 사용하여 정확도를 높이는 동시에 학습 시간을 줄이는 방법에 대해 이야기합니다.

1. Snapshot Ensembling — M models for the cost of 1
https://arxiv.org/pdf/1704.00109.pdf

 

 

2. FreezeOut — Training Acceleration by Progressively Freezing Layers
https://arxiv.org/pdf/1706.04983.pdf

 

 

Tags:

딥러닝

DNN

Ensembling

FreezeOut

M model