관측 가능성(Observability)과 프로덕션 운용: Trace, Debugging & Governance
프로덕션 AI 에이전트 시스템을 안정적으로 운영하기 위한 OpenTelemetry 분산 트레이싱, 구조화된 로깅과 에이전트 루프 디버깅, 무한 루프/환각 도구 호출 탐지 및 장애 대응, 프롬프트·도구 버저닝과 거버넌스 체계, 프로덕션 체크리스트를 깊이 있게 설명합니다.
메뉴
태그
OpenTelemetry
공개 글 2개
OpenTelemetry로 LLM 요청 Trace 연결하기
LLM 서비스에서 OpenTelemetry를 사용해 API 요청, retrieval, LLM 호출, validation, DB 저장을 하나의 trace로 연결하고 지연과 실패 원인을 분석하는 방법을 정리합니다.