연락처 정보

코스 개요

오픈소스 LLM 소개

  • 오픈 가중치 모델이란 무엇이며 왜 중요한가
  • LLaMA, Mistral, Qwen 및 기타 커뮤니티 모델 개요
  • 개인용, 온프레미스 또는 보안 배포 사례

환경 설정 및 도구

  • Transformers, Datasets, PEFT 라이브러리 설치 및 구성
  • 파인튜닝에 적합한 하드웨어 선택
  • Hugging Face 또는 기타 저장소에서 사전 훈련된 모델 로드

데이터 준비 및 전처리

  • 데이터셋 형식 (명령형 튜닝, 채팅 데이터, 텍스트 전용)
  • 토큰화 및 시퀀스 관리
  • 맞춤형 데이터셋 및 데이터 로더 생성

파인튜닝 기법

  • 표준 전체 파인튜닝 vs 매개변수 효율적 방법
  • 효율적인 파인튜닝을 위한 LoRA 및 QLoRA 적용
  • 빠른 실험을 위한 Trainer API 활용

모델 평가 및 최적화

  • 생성 및 정확도 지표를 통한 파인튜닝된 모델 평가
  • 과적합, 일반화 및 검증 데이터셋 관리
  • 성능 튜닝 팁 및 로깅

배포 및 프라이빗 사용

  • 추론을 위한 모델 저장 및 로드
  • 보안 엔터프라이즈 환경에서 파인튜닝된 모델 배포
  • 온프레미스 vs 클라우드 배포 전략

사례 연구 및 활용 예시

  • LLaMA, Mistral, Qwen의 엔터프라이즈 활용 예시
  • 다국어 및 도메인 특화 파인튜닝 처리
  • 토의: 오픈 소스 모델과 폐쇄형 모델 간 균형

요약 및 다음 단계

요건

  • 대규모 언어 모델(LLM) 및 그 아키텍처에 대한 이해
  • Python 및 PyTorch 사용 경험
  • Hugging Face 생태계에 대한 기초적인 지식

대상 독자

  • ML 전문가
  • AI 개발자
 14 시간

참가자 수


참가자별 가격

예정된 코스

관련 카테고리