연락처 정보

코스 개요

프로덕션 환경에서의 에이전트 기반 시스템 기초

  • 에이전트 아키텍처: 루프, 도구, 메모리 및 오케스트레이션 레이어
  • 에이전트의 생명주기: 개발, 배포 및 지속적인 운영
  • 대규모 프로덕션 환경에서의 에이전트 관리 과제들

인프라 구축 및 배포 모델

  • 컨테이너화된 환경 및 클라우드에서의 에이전트 배포 방법
  • 확장 패턴: 수평적·수직적 확장, 동시 실행 제어 및 속도 조절
  • 다중 에이전트 간 오케스트레이션과 워크로드 분산 기법

모니터링 및 가시성 구현

  • 주요 지표: 지연 시간, 성공률, 메모리 사용량, 에이전트 호출 깊이
  • 에이전트 활동 추적 및 호출 그래프 분석
  • Prometheus, OpenTelemetry, Grafana를 활용한 가시성 도구 구축

로깅, 감사 및 규정 준수

  • 중앙 집중형 로깅 시스템 및 구조화된 이벤트 수집 방법
  • 에이전트 기반 워크플로우의 규정 준수 및 감사 요건 충족 방안
  • 디버깅을 위한 감사 이력 추적 및 재생 메커니즘 설계

성능 튜닝 및 리소스 최적화 기법

  • 추론 과정의 오버헤드 감소와 에이전트 오케스트레이션 주기 최적화 방법
  • 빠른 검색을 위한 모델 캐싱 및 경량 임베딩 활용 전략
  • AI 파이프라인의 부하 테스트 및 스트레스 시뮬레이션 수행 방법

비용 관리 및 거버넌스 구현

  • 에이전트 운영에 따른 주요 비용 요인: API 호출, 메모리, 컴퓨팅 자원 및 외부 서비스 연동
  • 에이전트별 사용량 추적 및 비용 청구 체계 구축 방법
  • 자동화 정책을 통한 과잉 확장 방지와 유휴 리소스 최소화 전략

에이전트 배포를 위한 CI/CD 및 출시 전략

  • CI/CD 시스템에 에이전트 파이프라인 통합 방법
  • 지속적인 업데이트를 위한 테스트, 버전 관리 및 롤백 전략 구축
  • 안전한 배포를 위해 단계적 출시 기법 적용 방법

장애 복구 및 신뢰성 확보 방안

  • 오류 발생 시에도 시스템이 정상 기능을 유지할 수 있도록 설계하는 방법
  • 에이전트의 신뢰성 향상을 위한 재시도, 타임아웃 및 서킷 브레이커 패턴 활용
  • AI 시스템 운영상 발생하는 문제에 대한 대응 절차와 사후 분석 체계 구성

최종 프로젝트

  • 모니터링 및 비용 관리 기능이 모두 포함된 에이전트 기반 AI 시스템 설계 및 배포
  • 부하 시뮬레이션을 통해 성능 측정 및 리소스 사용 최적화 실습
  • 구축한 아키텍처와 모니터링 대시보드를 동료들에게 발표하는 과제 수행

요약 및 향후 발전 방향

요건

  • MLOps 및 프로덕션 환경에서의 머신러닝 시스템 운영에 대한 탄탄한 이해
  • 컨테이너 기반 배포(Docker/Kubernetes) 경험
  • 클라우드 비용 최적화 및 모니터링 도구 활용 능력

대상자

  • MLOps 엔지니어
  • 사이트 신뢰성 엔지니어(SRE)
  • AI 인프라를 관리하는 엔지니어링 매니저
 21 시간

참가자 수


참가자별 가격

회원 평가 (3)

예정된 코스

관련 카테고리