일반적인 검사의 경우 학습된 인공지능 모델은 한번에 한 이미지씩 GPU 연산을 수행합니다. 이때, 만약 GPU의 연산 능력과 메모리 크기가 여러 이미지를 한번에 처리하기에 충분하다면, GPU 자원을 더 활용하여 검사 시간을 단축시킬 수 있습니다. 설명한 바와 같이 GPU의 자원을 더 사용하여 한번에 여러 장의 이미지를 검사하는 방법을 이 문서에서 batch-inspection 라 지칭합니다. 현재 cls 와 seg 모듈에서만 해당 기능을 제공하고 있습니다.
batch-inspection 를 사용하기 위해서 두 가지만 추가적으로 수행하면 됩니다.
batchSize로 넘겨줍니다.batchSize 가 GPU 메모리에 비해 너무 크다면, Memory-allocation functions 이 eErrorType::OUT_OF_GPU_MEMORY 를 반환합니다.batchSize로 2의 지수를 사용하길 권장합니다. 예) 2, 4, 8 ...