목록파이토치 (1)
while (1): study();

Contiguous는 사전에 '인접한, 근접한'이라는 뜻으로 등재되어 있습니다. PyTorch로 구현된 모델의 코드를 따라가다보면 종종 .contiguous()라는 메서드가 호출이 되는데 이는 어떤 역할을 하는 걸까요? PyTorch에서 Contiguous Tensor란 "원소 간 메모리가 인접해있는 텐서"를 의미합니다. 간단한 예를 들어 메모리가 1~16번 주소까지 있다고 가정합니다. 또한 원소가 4개인 2x2 텐서가 존재한다고 해봅시다. 이때 Non-contiguous Tensor, 즉 원소간 메모리 주소가 인접하지 않은 텐서는 다음과 같이 메모리 주소가 배정되어 있을 겁니다. 1번 원소 2 2번 원소 4 5 6 7 8 3번 원소 10 11 12 13 14 15 4번 원소 메모리를 효율적으로 사용하기..
학습/딥러닝
2021. 9. 29. 15:45