[Serving patterns]Web single pattern

[Serving patterns] Web single pattern

• 서빙 패턴은 실제 운영 환경에서 머신러닝 모델을 이용할 수 있도록 만드는 시스템 디자인

Reference

Copyright 2020 Mercari, lnc.

ml-system-design-pattern

---

디자인 패턴

프로그램 개발에서 자주 나타나는 과제를 해결하기 위한 방법 중 하나로, 과거의 소프트웨어 개발 과정에서 발견된 설계의 노하우를 축적하여 이름을 붙여, 이후에 재이용하기 좋은 형태로 특정의 규약을 묶어서 정리한 것

---

Web single pattern

• 예측 서버를 빠르게 출시하고 싶은 경우 사용

아키텍처

• 모든 아티팩트를 웹 서버에 저장하고 사용하기 때문에 서버 간단히 생성하고 배포 가능
• 여러 복제본 배포 시, 로드 밸런서나 프록시 사용
• 웹 서버에 모델을 빌드하려면, Model-in-image pattern 또는 Model-load pattern 하나 적용 가능

 

특징

• 전처리, 예측 시 하나의 프로그래밍 언어 사용 가능
• 아키텍처가 단순해서 관리가 쉬움
• 트러블 슈팅이 복잡하지 않음
• 하나가 바뀌면 전체를 업데이트

 

다음 공부 내용

• 트러블 슈팅이란?
• 아티팩트란?
• 로드 밸런서?
• Model-in-image pattern?
• Model-load pattern?