연락처 정보

코스 개요

배포를 위한 머신러닝 모델 준비하기

  • Docker를 이용해 모델 패키징하기
  • TensorFlow 및 PyTorch에서 모델 내보내기
  • 버전 관리와 스토리지 관련 고려사항 살펴보기

쿠버네티스상에서의 모델 서비스 제공

  • 추론 서버 개요 살펴보기
  • TensorFlow Serving과 TorchServe 배포 방법
  • 모델 엔드포인트 설정하기

추론 성능 최적화 기법

  • 배치 처리 전략 적용하기
  • 동시 요청 처리 방법 탐구하기
  • 지연 시간 및 처리량 최적화 방안 검토하기

머신러닝 워크로드의 자동 확장 구현

  • 수평형 파드 자동 확장기(HPA) 활용법
  • 수직형 파드 자동 확장기(VPA) 사용 방법
  • 쿠버네티스 이벤트 기반 자동 확장(KEDA) 구현하기

GPU 할당 및 리소스 관리 방법

  • GPU 노드 설정 방안 알아보기
  • NVIDIA 디바이스 플러그인 개요 살펴보기
  • 머신러닝 워크로드를 위한 리소스 요청 및 제한치 설정하기

모델 출시 전략 수립 방법

  • 블루/그린 배포 방식 적용하기
  • 카나리 배포 패턴 실습해보기
  • 모델 평가를 위한 A/B 테스트 기법 이해하기

프로덕션 환경에서의 머신러닝 모니터링 및 관측 가능성 확보 방법

  • 추론 워크로드 측정 지표 확인하기
  • 로깅 및 트레이싱 수행 절차 파악하기
  • 대시보드와 알림 시스템 구성 방법 살펴보기

보안 및 신뢰성 확보 방안

  • 모델 엔드포인트 보안 강화 전략 적용하기
  • 네트워크 정책과 접근 제어 메커니즘 활용하기
  • 고가용성 유지 방안 모색하기

요약 및 향후 실행 계획 수립 방법

요건

  • 컨테이너 기반 애플리케이션 운영 방식에 대한 이해
  • 파이썬 기반 머신러닝 모델 개발 경험
  • 쿠버네티스의 기본 개념 숙지

수강 대상

  • 머신러닝 엔지니어
  • 데브옵스 엔지니어
  • 플랫폼 엔지니어링 팀 구성원
 14 시간

참가자 수


참가자별 가격

회원 평가 (4)

예정된 코스

관련 카테고리