Self-training with Noisy Student improves ImageNet classification

- self training

• ImageNet dataset 을 이용하여 Teacher model 학습
• JFT-300M dataset 을 이용하여 Teacher model 테스트
• ImageNet dataset + JFT-300M dataset 을 이용하여 Student model 학습

- Student model 학습 시, 아래 3가지 noisy를 준다.

• stochastic depth
• dropout
• rand augment