Course Outline

프로덕션 배포 소개

  • 미세 조정된 모델을 배포하는 데 있어서의 주요 과제
  • 개발 환경과 프로덕션 환경의 차이점
  • 모델 배포를 위한 도구 및 플랫폼

배포를 위한 모델 준비

  • 표준 형식(ONNX, TensorFlow SavedModel 등)으로 모델 내보내기
  • 지연 시간과 처리량을 위한 모델 최적화
  • 에지 케이스와 실제 데이터에 대한 모델 테스트

모델 배포를 위한 컨테이너화

  • Docker 소개
  • ML 모델에 대한 Docker 이미지 생성
  • 컨테이너 보안 및 효율성을 위한 모범 사례

Kubernetes를 사용하여 배포 확장

  • AI 워크로드에 대한 Kubernetes 소개
  • 모델 호스팅을 위한 Kubernetes 클러스터 설정
  • 부하 분산 및 수평 확장

모델 모니터링 및 유지 관리

  • Prometheus 및 Grafana을 통한 모니터링 구현
  • 오류 추적 및 성능을 위한 자동 로깅
  • 모델 드리프트 및 업데이트를 위한 파이프라인 재교육

생산에서의 보안 보장

  • 모델 추론을 위한 API 보안
  • 인증 및 권한 부여 메커니즘
  • 데이터 개인정보 보호 문제 해결

사례 연구 및 실습 랩

  • 감정 분석 모델 배포
  • 기계 번역 서비스 확장
  • 이미지 분류 모델에 대한 모니터링 구현

요약 및 다음 단계

Requirements

  • 머신 러닝 워크플로에 대한 강력한 이해
  • ML 모델 미세 조정 경험
  • DevOps 또는 MLOps 원칙에 대한 익숙함

청중

  • DevOps 엔지니어
  • MLOps 실무자
  • AI 배포 전문가
 21 Hours

Number of participants


Price per participant

회원 평가 (1)

Upcoming Courses

Related Categories