Course Outline

소개

  • Large Language Models (LLMs)는 무엇인가요?
  • LLM과 기존 NLP 모델 비교
  • LLM 기능 및 아키텍처 개요
  • LLM의 과제와 한계

LLM 이해

  • LLM의 수명주기
  • LLM 작동 방식
  • LLM의 주요 구성요소: 인코더, 디코더, 어텐션, 임베딩 등

시작하기

  • 개발 환경 설정
  • LLM을 개발 도구로 설치(예: Google Colab, Hugging Face)

LLM 작업

  • 사용 가능한 LLM 옵션 탐색
  • LLM 생성 및 사용
  • 사용자 정의 데이터 세트에서 LLM 미세 조정

텍스트 요약

  • 텍스트 요약 작업 및 적용 이해
  • 추출 및 추상 텍스트 요약을 위해 LLM 사용
  • ROUGE, BLEU 등과 같은 측정항목을 사용하여 생성된 요약의 품질을 평가합니다.

질문 답변

  • 질의응답 업무와 그 활용에 대한 이해
  • 개방형 도메인 및 폐쇄형 도메인 질문 답변에 LLM 사용
  • F1, EM 등과 같은 측정항목을 사용하여 생성된 답변의 정확성을 평가합니다.

텍스트 생성

  • 텍스트 생성 작업 및 적용 이해
  • 조건부 및 무조건 텍스트 생성을 위해 LLM 사용
  • 온도, top-k, top-p 등과 같은 매개변수를 사용하여 생성된 텍스트의 스타일, 톤 및 내용을 제어합니다.

LLM을 다른 프레임워크 및 플랫폼과 통합

  • PyTorch 또는 TensorFlow와 함께 LLM 사용
  • Flask 또는 Streamlit과 함께 LLM 사용
  • Google Cloud 또는 AWS와 함께 LLM 사용

문제 해결

  • LLM의 일반적인 오류 및 버그 이해
  • TensorBoard를 사용하여 학습 프로세스 모니터링 및 시각화
  • PyTorch Lightning을 사용하여 훈련 코드 단순화 및 성능 향상
  • Hugging Face 데이터 세트를 사용하여 데이터 로드 및 전처리

요약 및 다음 단계

Requirements

    자연어 처리 및 딥러닝 이해 Python 및 PyTorch 또는 TensorFlow Basic 프로그래밍 경험

청중

    개발자 NLP 매니아 데이터 과학자
 14 Hours

Number of participants



Price per participant

Related Courses

Related Categories