[Serving patterns] Synchronous pattern
- 서빙 패턴은 실제 운영 환경에서 머신러닝 모델을 이용할 수 있도록 만드는 시스템 디자인
Reference
ml-system-design-pattern
System design patterns for machine learning
mercari.github.io
디자인 패턴
프로그램 개발에서 자주 나타나는 과제를 해결하기 위한 방법 중 하나로, 과거의 소프트웨어 개발 과정에서 발견된 설계의 노하우를 축적하여 이름을 붙여, 이후에 재이용하기 좋은 형태로 특정의 규약을 묶어서 정리한 것
Synchronous pattern
- 다음 단계에 예측 결과가 필요하거나 예측 결과에 따라 작업 절차가 달라질 때 사용
- 예측을 동기식으로 실행할때 사용
- 예측이 끝날 때 까지 프로세스를 블락
특징
- 단순해서 관리 쉬움
- 예측이 끝나야 프로세스가 진행돼서 서비스 작업절차가 단순
- 예측 속도 및 지연 해결 방법 고려
'MLOps > ML Design Pattern' 카테고리의 다른 글
| [Serving patterns] Asynchronous pattern (0) | 2022.01.24 |
|---|---|
| [Serving patterns]Web single pattern (0) | 2022.01.13 |
