amazon web service
Amazon SageMaker Inference Recommender 신규 기능 출시 – 자동 ML 인스턴스 로드 테스트 및 모델 성능 최적화
Amazon SageMaker Inference Recommender 신규 기능 출시 – 자동 ML 인스턴스 로드 테스트 및 모델 성능 최적화 오늘, 기계 학습(ML) 인스턴스 전반에서 부하 테스트를 자동화하고 모델 성능을 최적화하는 새로운 Amazon SageMaker Studio 기능인 Amazon SageMaker Inference Recommender를 발표하게 되어 기쁘게 생각합니다. 더 나아가 이 기능은 개발부터 프로덕션에 이르기까지 기계 학습 모델을 얻는 데 걸리는 시간을 줄이고 운영과 관련된 비용을 최적화합니다. 지금까지 모델에 가장 적합한 기계 학습 인스턴스를 선택할 수 있는 수단을 MLOps 엔지니어에게 제공하는 서비스는 없었습니다. MLOps 엔지니어는 비용을 최적화하고 인스턴스 사용률을 극대화하기 위해 기계 학습 실행 요구사항을 기반으로 엔지니어 및 해당 모델을 잘 지원할 수 있는 기계 학습 인스턴스 유형을 선택하는 데 있어서 자신의 경험과 직관을 활용해야 했습니다. 또한 사용 가능한 기계 학습 인스턴스가 매우 많고 각 모델의 의미 차이가 매우 크다는 것을 고려할 때, 올바른 인스턴스 유형을 선택하기 위해서는 여러 번의 시도가 필요할 것입니다. 이제 SageMaker Inference Recommender를 [ more… ]