Serving & MLOps — MOC
상위: VAULT-INDEX · 규칙: 설계 규약
전통 MLOps·모델 서빙. (LLM 운영은 28.LLMOps & RAG)
목차
- 개념: MLOps 성숙도 · 서빙 유형(real-time/serverless/async/batch)
- SageMaker: 데이터/피처(Feature Store·Data Wrangler)·학습(Pipelines·Experiments)·추론(엔드포인트·real-time·serverless·async·batch)·배포전략(Production/Shadow Variant·A/B)·레지스트리·모니터(Model Monitor·Clarify·드리프트)·AutoML(Autopilot/Canvas/JumpStart)
- 오픈소스 서빙(작성 예정): KServe · Triton · vLLM · BentoML
키워드: #mlops #model-serving #sagemaker-inference #kserve #triton #vllm #drift-detection