본문 바로가기

image분석2

[pytorch, 딥러닝] CUDA out of memory 에러 해결방법(이미지분석) 모델을 제작하거나, 사용할 때 가장 많이 발생되는 에러를 정리해보겠습니다. 1. CUDA out of memory?! 말 그대로 메모리 부족으로 모델 작동이 안되는 경우입니다. GPU로 분석할 경우 전용 GPU메모리가 넘치면 멈추게 됩니다. 이런 error의 경우 모델을 제작할때, 혹은 모델을 사용할때 발생이 됩니다. 2. 에러를 어떻게 해결해야하는가? CUDA out of memory 에러의 일반적으로 구글링에서의 해결방법은 batch size를 줄여라. 다른 프로세스의 GPU점유를 줄여라 입니다. 이 방법은 모델을 제작할때 발생하는 에러에 대한 해결방법입니다. 만약 여러분 중에 일부가 어떠한 모델을 사용할때 위 같은 에러가 발생을 한다면, 모델 제작할때 해결방법과 같다고 생각이 되시겠지만, 그렇지 않.. 2022. 8. 10.
[tensorflow] 유튜브에 나온 내용 해부해보기 (빵형의 개발도상국) 이미지 분석을 공부하는데에 있어서 내 주제와 잘맞는 내용의 유튜브 동영상이 있어서 따라하고자 합니다. 바로 윌리를 찾아라를 tensorflow를 이용하여 딥러닝 학습을 시킨 동영상인데, 제가 할 주제도.. 세포를 찾아야하니 비슷한거 같아 벤치마킹해보도록 하겠습니다. 본문은 다음 링크로 가서 동영상 한번 보시길 바랍니다. https://www.youtube.com/watch?v=wIDn83OJeK4&t=89s 전체적으로 돌려보긴했습니다. tensorflow 예전 버전을 쓰셔서 (댓글에 1.*대라고 하신거보면..) 아무튼 전체적으로 사용된 모듈의 버전을 보여드리자면 집에서의 경우 다음과 같았습니다. # 집 Dependencies: Python = 3.8.5 numpy = 1.19.2 keras = 2.4.3.. 2022. 3. 10.