Skip to content

Optimization

rotated.InferenceOptimizer

InferenceHandler의 모델을 최적화하는 클래스입니다.

optimize(inference_handler, use_cache=True, checkpoint_path=None, password=None) classmethod

InferenceHandler가 가지고 있는 모델에 인퍼런스 최적화를 적용합니다.

Parameters:

Name Type Description Default
inference_handler InferenceHandler

InferenceHandler.build api를 통해 생성한 InferenceHandler 인스턴스입니다.

 required
use_cache bool

최적화 캐시 파일의 사용 여부를 나타냅니다. Defaults to True.

 True
checkpoint_path str

inference_handler를 만들 때 불러 온 모델 파일의 경로입니다. Defaults to None.

 None
password Optional[str]

SaigeVision에서 사용되는 패스워드입니다. Defaults to None.

 None