연락처 정보

코스 개요

매개변수 효율적 미세조정(PEFT) 개론

  • 전체 미세조정 방식의 한계와 그 대안으로서 PEFT의 필요성
  • PEFT의 목표 및 이점에 대한 개요 설명
  • 산업 현장에서의 활용 사례와 적용 분야

LoRA(저랭크 적응) 기법

  • LoRA의 개념 및 작동 원리 이해
  • Hugging Face와 PyTorch를 활용한 LoRA 구현 방법
  • 실습: LoRA를 이용해 모델을 미세조정해 보기

어댑터 튜닝 기법

  • 어댑터 모듈이 어떻게 작동하는지 설명
  • 트랜스포머 기반 모델에 어댑터를 통합하는 방법
  • 실습: 트랜스포머 모델에 어댑터 튜닝 적용해 보기

프리픽스 튜닝 기법

  • 소프트 프롬프트를 활용한 미세조정 방식 소개
  • LoRA 및 어댑터와 비교했을 때의 장단점 분석
  • 실습: 대규모 언어 모델 작업에 프리픽스 튜닝 적용해 보기

PEFT 기법들의 평가 및 비교 방법

  • 성능과 효율성을 판단하기 위한 지표들 소개
  • 학습 속도, 메모리 사용량, 정확도 간의 상호관계와 절충점 설명
  • 벤치마크 실험 수행 및 결과 해석 방법 교육

미세조정된 모델의 배포 전략

  • 미세조정된 모델을 저장하고 불러오는 방법
  • PEFT 기반 모델 배포 시 고려해야 할 사항들
  • 애플리케이션 및 파이프라인에 통합하는 방안 설명

최선의 실행 방법과 향후 확장 가능성

  • 양자화, 지식 증류 기법과 PEFT를 결합하는 전략
  • 자원이 부족한 환경 및 다국어 처리 분야에서의 활용 방안
  • PEFT 분야의 미래 발전 방향 및 연구 트렌드 소개

요약 및 향후 학습 계획 제시

요건

  • 머신러닝 기초 지식이 있어야 합니다.
  • 대규모 언어 모델(LLM) 활용 경험이 필요합니다.
  • Python 및 PyTorch에 대한 이해도가 필수적입니다.

대상 수강생

  • 데이터 과학자
  • AI 엔지니어
 14 시간

참가자 수


참가자별 가격

예정된 코스

관련 카테고리