728x90 반응형 fine tuning2 [딥러닝 기본지식] Transfer Learning과 Fine Tuning ▶Transfer Learning(전이 학습)이란? Transfer Learning이란 한 분야에서 학습된 신경망의 일부 능력을 유사하거나 새로운 분야에서 사용되는 신경망의 학습에 이용하는 방법입니다. 데이터의 수가 적을 때 효과적입니다. 또한, 전이 학습 없이 밑바닥부터 새로 학습할 때 보다 훨씬 더 높은 정확도와 빠른 학습 속도를 얻을 수 있습니다. Transfer Learning에서 사용되는 학습된 신경망을 pretrained model 이라고 합니다. 대표적으로는 ImageNet, ResNet, GoogleNet, VGG 등이 있습니다. 대규모 데이터에서 잘 학습된 모델을 가지고 와서 사용자가 적용하려는 문제에 맞게 weight를 조금씩 변화하여 사용하면 됩니다. 따라서 첫 학습부터 어느 정도 합.. 2023. 3. 4. [Pytorch] TorchVision Fine Tuning 이번 포스팅에서는 torchvision에서 제공하는 사전 학습된 모델들을 fine tuning 하는 방법에 대해서 알아보겠습니다. fine tuning에 대한 설명은 이곳을 참고해 주세요! Pytorch의 공식 튜토리얼에 따르면 fine-tuning과 feature extraction 두 가지 방법을 설명하고 있습니다. 두 개의 차이점에 대해 간략히 설명하자면! - Fine tuning : 사전 학습된 모델로 시작하여 새로운 작업에 대한 모델의 모든 파라미터를 업데이트 합니다. - Feature extraction : 사전 학습된 모델을 이용하여 가장 마지막의 분류기만 재학습합니다. 두 가지 모두 아래 과정들이 필요합니다. - 사전 학습된 모델로 초기화해주어야 합니다. - 새로 학습시킬 데이터의 .. 2023. 2. 5. 이전 1 다음 728x90 반응형
