00.LLMOps & RAG MOC

LLMOps & RAG — MOC

상위: VAULT-INDEX · 규칙: 설계 규약

LLM/에이전트 앱 운영 — 현재 업무의 본체. (전통 MLOps는 15.Serving & MLOps)

목차

1. 개념: LLM 앱 한계(환각/최신성/컨텍스트) · RAG 발전 단계
2. RAG 파이프라인: 로딩 → 청킹 → 임베딩 → 벡터저장(pgvector → 31.Database 교차링크) → 검색 → 리랭킹 → 생성
3. RAG 심화: Self-RAG · In-Context RALM · REALM · GraphRAG
4. 프롬프트 엔지니어링: Few-shot · CoT · Self-Consistency · ToT
5. 가드레일: Constitutional · 입출력 필터 · PII 마스킹
6. 평가·트레이싱: RAGAS/ARES · Langfuse · OpenTelemetry
7. 서빙·추론최적화: KServe · PagedAttention · Speculative Decoding
8. 에이전트 플랫폼: A2A 게이트웨이/레지스트리 · MCP · 오케스트레이션(LangGraph/ReAct)
9. 오프라인/에어갭 딜리버리: wheelhouse · 이미지 import

키워드: #llmops #rag #vector-db #guardrails #llm-eval #tracing #agent-platform #airgap

현재 노트 (1)

• RAG 파이프라인 - 청킹부터 생성까지