목록pytorch (3)

Research Notes

[Solved] IndexError: invalid index of a 0-dim tensor. Use tensor.item() to convert a 0-dim tensor to a Python number

문제상황: pytorch에서 model을 돌리다가 해당 에러가 뜸 이유: pytorch 이전 버전(0.5)에서 작성된 코드를 돌릴 때 뜨는 에러, pytorch의 데이터 자료 구조가 변경되었다고 함 코드에서 변수명.data[0] --> 변수명.data로 바꾸면 해결됨
Programming Language/Python 2022. 9. 22. 11:18
[Paper Review] Transformer Review (with Pytorch)

Transformer Transformer's contribution 이전의 RNN model이 불가능했던 병렬 처리를 가능하게 함 Attention 개념을 도입해 특정 시점에 집중 Positional Encoding을 사용해 sequential한 위치 정보 보존 masking을 적용해 이전 시점의 값만이 이후에 영향을 미치도록 제한 Transformer 모델 Transformer의 구조 : input sentence를 넣어서 output sentence를 생성해내는 모델. input과 동일한 sentence, input의 역방향인 sentence, 같은 의미의 다른 언어로된 sentence를 만들 수 있음. 이는 train 과정에서 어떤 것을 label로 두고 학습하느냐에 따라 다름. Encoder E..
Paper Review 2022. 8. 25. 20:19
[Solved] OSError: [WinError 127] 지정된 프로시저를 찾을 수 없습니다

1. Error message : OSError: [WinError 127] 지정된 프로시저를 찾을 수 없습니다 - Python Geometric 모듈을 import하다가 이런 에러가 남 - 프로시저 시작 지점 ~\torch_sparse\_version.pyd에서 찾을 수 없습니다 --> 이런 창이 뜸 2. 해결방법 - 대박 이틀만에 해결했다;; 시도한 방법 순서) 1. NVIDIA Driver, CUDA, CUDNN, Torch 싹 지우고 재설치 - 내 로컬에 깔려있던 CUDA 버전이 Pytorch 1.11.0 버전이랑 호환이 안됨 - Python Geometric을 실행시키기 위한 최소 버전도 안되어서 모두 재설치함 - "프로그램 삭제"에 들어가서 NVIDIA 관련된 프로그램 모두 삭제함.. 1.1...
Programming Language/Python 2022. 4. 14. 14:13
이전 Prev 1 Next 다음