AWS, 더 빠른 기계 학습 배포를 위해 SageMaker 업데이트
새로운 도구와 기능을 사용하면 데이터에 레이블을 지정하고, 기계 학습 모델을 학습하고, 추론을 위해 모델을 배포하는 것이 더 빠르고 저렴해집니다.
아마존 웹 서비스(Amazon Web Services)는 지난 수요일 고객이 기계 학습 모델을 구축, 훈련 및 배포하는 데 도움이 되는 AWS 서비스인 세이지메이커(SageMaker)에 대한 일련의 업데이트를 출시했습니다. 새로운 기능은 기계 학습을 더 저렴하고 쉽게 사용할 수 있도록 설계되었습니다.
첫째, Amazon SageMaker Ground Truth Plus는 고객에게 데이터 레이블링 교육을 받은 인력에 대한 액세스를 제공합니다. 이 서비스를 사용하면 고품질 교육 데이터 세트를 더 빠르게 생성할 수 있으며 Amazon은 데이터 세트 생성 비용을 40% 절감한다고 말합니다. 일반적으로 이 프로세스에는 라벨링 애플리케이션을 구축하고 라벨링 인력을 관리하는 작업이 포함됩니다.
한편, 새로운 SageMaker Training Compiler는 사용자의 Python 훈련 코드를 자동으로 컴파일하고 해당 모델에 맞게 특별히 GPU 커널을 생성합니다. 학습 코드는 메모리와 컴퓨팅을 덜 사용하여 모델을 더 빠르게 학습합니다. AWS는 훈련 속도를 최대 50%까지 높일 수 있다고 말합니다.
다음으로, Amazon SageMaker Inference Recommender는 로드 테스트를 자동화하고 기계 학습 인스턴스 전체에서 모델 성능을 최적화합니다. 이를 통해 MLOps 엔지니어는 ML 인스턴스 유형을 선택하고 사용자 지정 스크립트를 작성하여 성능 벤치마크 및 로드 테스트를 실행하는 데 소요되는 시간을 절약할 수 있습니다.
또한 AWS는 사용자가 기본 인프라를 구성하거나 관리할 필요 없이 추론을 위해 ML 모델을 배포할 수 있는 새로운 추론 옵션인 SageMaker Serverless Inference의 평가판을 출시했습니다. SageMaker의 새로운 옵션은 추론 요청의 볼륨에 따라 컴퓨팅 파워를 자동으로 프로비저닝, 확장 및 끕니다. 고객은 추론 코드를 실행하는 기간과 처리된 데이터 양에 대해서만 비용을 지불합니다.