Self-training with Noisy Student improves ImageNet classification
- self training
- ImageNet dataset 을 이용하여 Teacher model 학습
- JFT-300M dataset 을 이용하여 Teacher model 테스트
- ImageNet dataset + JFT-300M dataset 을 이용하여 Student model 학습
- Student model 학습 시, 아래 3가지 noisy를 준다.
- stochastic depth
- dropout
- rand augment