Course Outline

대형 모델 최적화 소개

  • 대규모 모델 아키텍처 개요
  • 대형 모델 미세 조정의 과제
  • 비용 효율적인 최적화의 중요성

분산 훈련 기술

  • 데이터 및 모델 병렬성 소개
  • 분산형 교육을 위한 프레임워크: PyTorch 및 TensorFlow
  • 여러 GPU 및 노드에 걸친 확장

모델 양자화 및 가지치기

  • 양자화 기술 이해
  • 모델 크기를 줄이기 위해 가지치기 적용
  • 정확도와 효율성 간의 균형

하드웨어 최적화

  • 미세 조정 작업을 위한 올바른 하드웨어 선택
  • GPU 및 TPU 활용 최적화
  • 대형 모델에 대한 특수 가속기 사용

효율적Data Management

  • 대규모 데이터세트 관리를 위한 전략
  • 성능을 위한 전처리 및 배칭
  • 데이터 증강 기술

최적화된 모델 배포

  • 미세 조정된 모델을 배포하기 위한 기술
  • 모델 성능 모니터링 및 유지 관리
  • 최적화된 모델 배포의 실제 사례

고급 최적화 기술

  • 저순위 적응(LoRA) 탐색
  • 모듈식 미세 조정을 위한 어댑터 사용
  • 모델 최적화의 미래 동향

요약 및 다음 단계

Requirements

  • PyTorch 또는 TensorFlow과 같은 딥 러닝 프레임워크를 사용한 경험
  • 대규모 언어 모델과 그 응용 프로그램에 대한 지식
  • 분산 컴퓨팅 개념 이해

청중

  • 머신러닝 엔지니어
  • 클라우드 AI 전문가
 21 Hours

Number of participants


Price per participant

Upcoming Courses

Related Categories