문의를 보내주셔서 감사합니다! 팀원이 곧 연락드리겠습니다.
예약을 보내주셔서 감사합니다! 저희 팀 멤버 중 한 분이 곧 연락드리겠습니다.
기간 14 시간
코스 개요
배포를 위한 기계 학습 모델 준비
- Docker를 이용한 모델 패키징
- TensorFlow 및 PyTorch로부터 모델 내보내기
- 버전 관리 및 저장소 고려 사항
Kubernetes에서의 모델 서빙
- 추론 서버 개요
- TensorFlow Serving 및 TorchServe 배포
- 모델 엔드포인트 설정
추론 최적화 기법
- 배칭(Batching) 전략
- 동시 요청 처리
- 지연 시간(Latency) 및 처리량(Throughput) 튜닝
ML 워크로드 오토스케일링
- Horizontal Pod Autoscaler (HPA)
- Vertical Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
GPU 프로비저닝 및 리소스 관리
- GPU 노드 구성
- NVIDIA 디바이스 플러그인 개요
- ML 워크로드를 위한 리소스 요청 및 한계 설정
모델 롤아웃 및 릴리스 전략
- 블루/그린 배포
- 카나리 롤아웃 패턴
- 모델 평가를 위한 A/B 테스트
프로덕션 환경에서 ML 모니터링 및 관찰 가능성(Observability)
- 추론 워크로드용 메트릭
- 로깅 및 트레이싱 관행
- 대시보드 및 알림
보안 및 신뢰성 고려 사항
- 모델 엔드포인트 보안 강화
- 네트워크 정책 및 접근 제어
- 고가용성(High Availability) 확보
요약 및 다음 단계
요건
- 컨테이너화 된 애플리케이션 워크플로우에 대한 이해
- Python 기반 기계 학습 모델에 대한 경험
- Kubernetes 기본 개념에 대한 익숙함
대상 audiencia
- ML 엔지니어
- DevOps 엔지니어
- 플랫폼 엔지니어링 팀
회원 평가 (4)
컨테이너와 쿠버네티스의 기본 이해 및 상호 작용 방식에 대한 개념 OpenShift 플랫폼의 주요 기능
Eric Scholze - NOW IT GmbH
코스 - Introduction to Containers, Kubernetes & OpenShift
기계 번역됨
마이크로서비스에 대한 내용과 쿠버네티스를 유지보수하는 방법
Yufri Isnaini Rochmat Maulana - Bank Indonesia
코스 - Advanced Platform Engineering: Scaling with Microservices and Kubernetes
기계 번역됨
트레이너가 지식을 어떻게 효과적으로 전달하는지
Vu Thoai Le - Reply Polska sp. z o. o.
코스 - Certified Kubernetes Administrator (CKA) - exam preparation
기계 번역됨
Augustin과의 지식 및 교류
Laurent - L'Office national des vacances annuelles (ONVA)
코스 - Docker and Kubernetes
기계 번역됨