728x90
반응형
- [Pytorch] RuntimeError: element 0 of tensors does not require grad and does not have a grad_fn - 전체 에러 문구 RuntimeError: element 0 of tensors does not require grad and does not have a grad_fn - 해결 방법 requires_grad 함수가 False 값을 가진 채 backward 함수를 실행하면 발생하는 오류입니다. backward()함수를 통해 역전파를 실행하기 위해 네트워크의 뒤로 갔는데 gradient를 저장해 둔 공간이 없기 때문에 에러가 발생한다고 할 수 있습니다. import torch import torch.nn as nn loss = nn.CrossEntropyLoss() input = torch.FloatTensor([[-1.4922, -0.1335, 0.2527, 0.0334, 0.0705], [-0.. 2023.01.29
- [dlib] dlib 설치시 에러 dlib 설치 전 cmake 를 먼저 설치해줘야 합니다.하지만 cmake 를 설치 했음에도 불구하고 아래와 같은 에러 문구가 계속 뜬다면... ModuleNotFoundError: No module named 'cmake' [해결방법] 1. 먼저 설치했던 cmake를 모두 제거합니다.sudo apt-get remove cmakesudo apt-get purge cmakesudo apt remove cmake which cmake 를 입력했을 때 아무것도 나오지 않아야 합니다. 2. 아래 버전으로 cmake와 dlib을 새로 설치해줍니다.pip install cmake==3.25.2pip install dlib==19.24.2 [참고 사이트]https://github.com/davisking.. 2024.05.10
- [Pytorch] loss nan 해결하기 신경망을 학습시키다 보면 학습 도중 loss 가 nan 값이 등장하는 경우가 발생하기도 합니다. nan loss나 nan output이 발생했을 때 원인을 찾고 해결할 수 있는 방법에 대해 포스팅 하겠습니다. ▶ nan 이 발생한 연산 찾기 먼저 torch. autograd 함수중에서 nan loss 가 발생하면 그 즉시 실행을 멈추고 nan을 유발한 코드 라인을 찾아야합니다. 이를 쉽게 해주는 함수가 바로 출력해주는 함수가 autograd.set_detect_anomaly() 입니다. autograd.set_detect_anomaly(True) 스크립트 제일 위에 위 코드를 추가해주면, 어느 라인에서 nan이 발생했는지 터미널 창의 문구를 통해 알 수 있습니다. 좀 더 구체적으로 이 함수는 au.. 2023.02.24
- [딥러닝 기본지식] 그래프 신경망(Graph Neural Network) ▶ Graph Neural Network(GNN) GNN은 그래프 구조의 데이터를 입력으로 사용하는 인공 신경망입니다. 가장 많이 쓰이는 인공 신경망들인 FCN(Fully Connected Network)과 CNN(Convolutional Neural Network), RNN(Recurrent Neural Netwrok)등은 보통 벡터나 행렬 형태의 입력을 사용합니다. 그에 비해, GNN은 입력이 그래프 구조입니다. ▶ Neighborhoods Aggregation GNN은 입력으로 그래프 구조(노드들 사이의 연결 상태)와 노드별 feature 정보를 받습니다. 입력으로 받은 feature들의 정보와 이웃 노드 정보를 바탕으로 각 노드 별 embedding 을 출력 결과를 얻을 수 있습니다. 이때.. 2023.03.04
- TypeError: only integer scalar arrays can be converted to a scalar index - 전체 에러 문구 TypeError: only integer scalar arrays can be converted to a scalar index 여러 개의 numpy array를 concat 할 때 발생하는 에러입니다. concatenate() 함수에 tuple 형식의 matrix을 사용하지 않았기 때문에 발생하는 에러입니다. - 해결 방법 np.concatenate((y_h, cb_h, cr_h)) 연결하고자 하는 행렬들을 tuple로 묶어주면 됩니다. 2023.11.07
728x90
반응형