[애저듣보잡] ML 생애주기 4 - 배포/서빙과 Data Drift

[애저듣보잡] MLOps 101 | ep5. ML 생애주기 4 - 배포 서빙

https://youtu.be/DMwMmTKA2bk

 

배포/서빙

 

Azure ML 패키징 및 배포

컨테이너를 이용해 패키징하는 이유

원래 모델을 만들 때 썼던 환경 자체를 예측할 때도 똑같이 사용해야하기 때문

 

배포환경 설정 중 Computer Type

(1) Azure Container Instance (ACI)

개발/테스트 용도로, 제일 빠르고 간단하게 컨테이너 이미지를 실행하는 단일 노드 호스팅 서비스

 

(2) Azure Kubernetes Services (AKS)

오토 스케일같은 다양한 복잡한 기능을 갖고 있는 멀티 노드 컨테이너 서비스

 

모델의 모니터링: 데이터 드리프트(Data Drift)

모델의 성능을 모니터링하기 위한 방법 중 하나로, 학습 데이터셋의 패턴과 현재 운영 상태의 데이터 패턴을 비교하는 것

 

- 데이터의 패턴 특성이 시간이 지나면 변하는 현상

- 학습에 활용된 당시의 데이터와 차이가 커질수록 예측 성능이 저하될 가능성

- 따라서 Data Drift 여부를 지속적으로 모니터링하면 모델의 재학습 시점을 판단하는 데 간접적인 방법이 될 수 있음.