Course Outline

검색 증강 생성(RAG) 소개

  • RAG와 기업 AI에 미치는 중요성
  • RAG 시스템의 구성 요소: 검색기, 생성기, 문서 저장소
  • 독립형 LLMs와 벡터 검색과의 비교

RAG 파이프라인 설정

  • Haystack 또는 유사한 프레임워크를 설치 및 구성
  • 문서 수집 및 사전 처리
  • 벡터 데이터베이스(예: FAISS, Pinecone)에 검색기를 연결

Fine-Tuning 검색기

  • 도메인 특정 데이터를 사용하여 밀집형 검색기를 학습
  • 문장 변환기와 대조 학습 사용
  • 상위-k 정확도로 검색기 품질 평가

Fine-Tuning 생성기

  • 기본 모델 선택(예: BART, T5, FLAN-T5)
  • 명령 튜닝 vs. 지도 미세 조정
  • 효율적인 업데이트를 위한 LoRA 및 PEFT 방법

평가 및 최적화

  • RAG 성능을 평가하는 지표(예: BLEU, EM, F1)
  • 지연 시간, 검색 품질, 그리고 환각 감소
  • 실험 추적 및 반복적 개선

배포 및 실세계 통합

  • 내부 검색 엔진 및 챗봇에 RAG 배포
  • 보안, 데이터 접근 및 관리 고려 사항
  • API, 대시보드 또는 지식 포털과 통합

사례 연구 및 최적 사례

  • 금융, 의료 및 법무 분야의 기업 사용 사례
  • 도메인 드리프트 관리 및 지식베이스 업데이트
  • 검색 증강형 LLM 시스템의 미래 방향

요약 및 다음 단계

Requirements

  • 자연어 처리(NLP) 개념에 대한 이해
  • 트랜스포머 기반 언어 모델에 대한 경험
  • Python 및 기본 머신러닝 워크플로우에 대한 familiarity

대상

  • NLP 엔지니어
  • 지식 관리 팀
 14 Hours

Number of participants


Price per participant

Upcoming Courses

Related Categories