문의를 보내주셔서 감사합니다! 팀원이 곧 연락드리겠습니다.
예약을 보내주셔서 감사합니다! 저희 팀 멤버 중 한 분이 곧 연락드리겠습니다.
코스 개요
배포를 위한 머신러닝 모델 준비하기
- Docker를 이용해 모델 패키징하기
- TensorFlow 및 PyTorch에서 모델 내보내기
- 버전 관리와 스토리지 관련 고려사항 살펴보기
쿠버네티스상에서의 모델 서비스 제공
- 추론 서버 개요 살펴보기
- TensorFlow Serving과 TorchServe 배포 방법
- 모델 엔드포인트 설정하기
추론 성능 최적화 기법
- 배치 처리 전략 적용하기
- 동시 요청 처리 방법 탐구하기
- 지연 시간 및 처리량 최적화 방안 검토하기
머신러닝 워크로드의 자동 확장 구현
- 수평형 파드 자동 확장기(HPA) 활용법
- 수직형 파드 자동 확장기(VPA) 사용 방법
- 쿠버네티스 이벤트 기반 자동 확장(KEDA) 구현하기
GPU 할당 및 리소스 관리 방법
- GPU 노드 설정 방안 알아보기
- NVIDIA 디바이스 플러그인 개요 살펴보기
- 머신러닝 워크로드를 위한 리소스 요청 및 제한치 설정하기
모델 출시 전략 수립 방법
- 블루/그린 배포 방식 적용하기
- 카나리 배포 패턴 실습해보기
- 모델 평가를 위한 A/B 테스트 기법 이해하기
프로덕션 환경에서의 머신러닝 모니터링 및 관측 가능성 확보 방법
- 추론 워크로드 측정 지표 확인하기
- 로깅 및 트레이싱 수행 절차 파악하기
- 대시보드와 알림 시스템 구성 방법 살펴보기
보안 및 신뢰성 확보 방안
- 모델 엔드포인트 보안 강화 전략 적용하기
- 네트워크 정책과 접근 제어 메커니즘 활용하기
- 고가용성 유지 방안 모색하기
요약 및 향후 실행 계획 수립 방법
요건
- 컨테이너 기반 애플리케이션 운영 방식에 대한 이해
- 파이썬 기반 머신러닝 모델 개발 경험
- 쿠버네티스의 기본 개념 숙지
수강 대상
- 머신러닝 엔지니어
- 데브옵스 엔지니어
- 플랫폼 엔지니어링 팀 구성원
14 시간
회원 평가 (4)
컨테이너와 쿠버네티스의 기본 이해 및 상호 작용 방식에 대한 개념 OpenShift 플랫폼의 주요 기능
Eric Scholze - NOW IT GmbH
코스 - Introduction to Containers, Kubernetes & OpenShift
기계 번역됨
마이크로서비스에 대한 내용과 쿠버네티스를 유지보수하는 방법
Yufri Isnaini Rochmat Maulana - Bank Indonesia
코스 - Advanced Platform Engineering: Scaling with Microservices and Kubernetes
기계 번역됨
트레이너가 지식을 어떻게 효과적으로 전달하는지
Vu Thoai Le - Reply Polska sp. z o. o.
코스 - Certified Kubernetes Administrator (CKA) - exam preparation
기계 번역됨
Augustin과의 지식 및 교류
Laurent - L'Office national des vacances annuelles (ONVA)
코스 - Docker and Kubernetes
기계 번역됨