Course Outline

QLoRA 및 양자화 소개

  • 양자화의 개요 및 모델 최적화에서의 역할
  • QLoRA 프레임워크 및 그 이점 소개
  • QLoRA와 전통적인 미세 조정 방법 간의 주요 차이점

Large Language Models (LLMs)의 기본 원리

  • LLM 및 그 아키텍처 소개
  • 대규모 모델의 미세 조정에 따른 도전 과제
  • 양자화가 LLM 미세 조정에서의 계산 제약 극복에 어떻게 도움이 되는지

Fine-Tuning LLM에 대한 QLoRA 구현

  • QLoRA 프레임워크 및 환경 설정
  • QLoRA 미세 조정을 위한 데이터셋 준비
  • Python 및 PyTorch/TensorFlow을 사용하여 LLM에 QLoRA 구현에 대한 단계별 가이드

QLoRA를 통한 Fine-Tuning 성능 최적화

  • 양자화를 통해 모델 정확성과 성능 균형 유지 방법
  • 미세 조정 중 계산 비용 및 메모리 사용량 줄이기 위한 기술
  • 최소한의 하드웨어 요구사항으로 미세 조정하는 전략

미세 조정된 모델 평가

  • 미세 조정된 모델의 효과 평가 방법
  • 언어 모델에 대한 일반적인 평가 지표
  • 미세 조정 후 모델 성능 최적화 및 문제 해결

미세 조정된 모델 배포 및 확장

  • 양자화된 LLM을 생산 환경에 배포하기 위한 모범 사례
  • 실시간 요청 처리용 배포 확장
  • 모델 배포 및 모니터링을 위한 도구 및 프레임워크

실제 사례 및 사례 연구

  • 고객 지원 및 NLP 작업에 대한 LLM 미세 조정 사례 연구
  • 의료, 금융 및 전자 상거래와 같은 다양한 산업에서 LLM을 미세 조정하는 예
  • QLoRA 기반 모델의 실제 배포에서 얻은 교훈

요약 및 다음 단계

Requirements

  • 머신러닝의 기초와 신경망에 대한 이해
  • 모델 미세 조정 및 전이 학습 경험
  • 대형 언어 모델(LLMs)과 딥러닝 프레임워크(예: PyTorch, TensorFlow)에 대한 익숙함

대상자

  • 머신러닝 엔지니어
  • AI 개발자
  • 데이터 과학자
 14 Hours

Number of participants


Price per participant

Upcoming Courses

Related Categories