대규모 언어 모델(LLM) 입문 교육 과정
대규모 언어 모델(LLM)은 주어진 입력이나 맥락에 기반해 자연스러운 언어 텍스트를 생성할 수 있는 심층 신경망 모델입니다. 이 모델들은 다양한 분야와 출처에서 수집된 방대한 양의 텍스트 데이터로 훈련되며, 자연언어의 구문적 및 의미적 패턴을 포착할 수 있습니다. LLM은 텍스트 요약, 질의응답, 텍스트 생성 등 다양한 자연언어 처리 과제에서 뛰어난 성과를 보여왔습니다.
본 강좌는 온라인 또는 오프라인으로 진행되는 실습 중심 교육으로서, 대규모 언어 모델을 활용해 다양한 자연언어 작업을 수행하고자 하는 초급 및 중급 수준의 개발자를 대상으로 합니다.
강좌를 마칠 때쯤 참가자들은 다음과 같은 역량을 갖추게 됩니다:
- 인기 있는 LLM이 포함된 개발 환경을 설정할 수 있습니다.
- 기본적인 LLM을 생성한 뒤 맞춤형 데이터셋으로 미세조정할 수 있습니다.
- 텍스트 요약, 질의응답, 텍스트 생성 등 다양한 자연언어 과제에 LLM을 활용할 수 있습니다.
- TensorBoard, PyTorch Lightning, Hugging Face Datasets와 같은 도구를 이용해 LLM을 디버깅하고 평가할 수 있습니다.
강좌 진행 방식
- 상호작용형 강의 및 토론이 병행됩니다.
- 다양한 연습문제와 실습 기회가 제공됩니다.
- 실시간 실험 환경에서 직접 코딩하며 실무 경험을 쌓게 됩니다.
강좌 커스터마이징 옵션
- 본 강좌에 맞춤형 교육 내용을 원하실 경우, 별도로 문의해주시면 조율해 드리겠습니다.
코스 개요
서론
- 대규모 언어 모델(LLM)이란 무엇인가?
- LLM과 기존 NLP 모델의 차이점
- LLM의 주요 특징 및 구조 개요
- LLM의 도전 과제와 한계점
LLM에 대한 이해
- LLM의 생명주기
- LLM이 작동하는 원리
- 인코더, 디코더, 어텐션 메커니즘, 임베딩 등 LLM의 핵심 구성 요소들
시작하기
- 개발 환경 설정 방법
- Google Colab이나 Hugging Face와 같은 개발 도구를 이용해 LLM을 설치하는 법
LLM 활용법
- 사용 가능한 LLM 옵션 탐색하기
- 자신만의 LLM 생성 및 활용 방법
- 맞춤형 데이터셋을 이용해 LLM 미세조정하는 기법
텍스트 요약 기술
- 텍스트 요약 작업의 개념과 실제 응용 사례 이해하기
- 추출형 및 추상형 텍스트 요약에 LLM 활용법
- ROUGE, BLEU와 같은 지표를 활용해 생성된 요약문의 품질 평가 방법
질의응답 시스템
- 질의응답 작업의 개념 및 활용 분야 이해하기
- 개방형 및 폐쇄형 질의응답에 LLM 적용 방법
- F1, EM 등 지표를 통해 생성된 답변의 정확도 측정법
텍스트 생성 기술
- 텍스트 생성 작업의 개념과 활용 분야 이해하기
- 조건부 및 무조건부 텍스트 생성에 LLM 활용법
- 온도, top-k, top-p와 같은 매개변수를 이용해 생성되는 텍스트의 스타일, 톤, 내용 조절하기
기타 프레임워크 및 플랫폼과 LLM 연동 방법
- PyTorch 또는 TensorFlow와 LLM 통합 기법
- Flask나 Streamlit을 활용한 LLM 구현법
- Google Cloud나 AWS 환경에서 LLM 운영하기
문제 해결 및 디버깅
- LLM 사용 시 흔히 발생하는 오류 및 버그 유형 파악하기
- TensorBoard를 이용해 학습 과정 모니터링 및 시각화 방법
- PyTorch Lightning을 활용해 학습 코드 단순화 및 성능 최적화 기법
- Hugging Face Datasets로 데이터 로드 및 전처리하는 법
요약 및 향후 발전 방향
요건
- 자연언어 처리 및 딥러닝에 대한 기본적인 이해가 필요합니다.
- Python와 PyTorch 또는 TensorFlow 사용 경험이 필수입니다.
- 기본적인 프로그래밍 능력을 갖추고 있어야 합니다.
대상 수강생
- 개발자들
- NLP에 관심이 많은 분들
- 데이터 과학자들
오픈 트레이닝 코스는 5명 이상의 참가자가 필요합니다.
대규모 언어 모델(LLM) 입문 교육 과정 - 예약
대규모 언어 모델(LLM) 입문 교육 과정 - 문의
대규모 언어 모델(LLM) 입문 - 컨설팅 문의
예정된 코스
관련 코스
고급 LangGraph: 복잡한 그래프 최적화, 디버깅 및 모니터링
35 시간LangGraph는 지속적인 상태를 유지하며 실행을 제어할 수 있는 구성 가능한 그래프 형태로 LLM 기반 애플리케이션을 구축하기 위한 프레임워크입니다.
본 강의는 강사가 직접 진행하는 실시간 교육으로, 온라인 또는 오프라인 방식으로 제공됩니다. 프로덕션 환경에서 사용되는 LangGraph 시스템을 최적화, 디버깅, 모니터링 및 운영하고자 하는 상급 수준의 AI 플랫폼 엔지니어, AI용 DevOps 전문가, 그리고 머신러닝 아키텍트들을 대상으로 합니다.
강의를 마치면 참가자들은 다음과 같은 역량을 갖추게 됩니다:
- 속도, 비용 효율성 및 확장성을 고려하여 복잡한 LangGraph 구조를 설계하고 최적화할 수 있습니다.
- 재시도 메커니즘, 타임아웃 설정, 멱등성 보장 및 체크포인트 기반 복구 기능을 통해 시스템의 안정성을 높일 수 있습니다.
- 그래프 실행 과정을 디버깅하고 추적하며 상태를 분석하여 프로덕션 환경에서 발생한 문제들을 체계적으로 재현할 수 있습니다.
- 로그, 메트릭, 트레이스 데이터를 활용해 그래프 시스템을 모니터링하고, SLA 및 비용 현황도 효과적으로 관리할 수 있습니다.
강의 형식
- 참여형 강의와 토론 진행
- 다양한 연습문제 및 실습 기회 제공
- 실제 랩 환경에서 직접 코드를 구현해보는 체험식 교육
강의 커스터마이징 옵션
- 본 강의에 맞춘 맞춤형 교육을 원하시는 경우, 저희에게 연락하여 일정을 협의해 주십시오.
Devstral을 활용한 코딩 에이전트 구축: 에이전트 설계부터 툴 사용까지
14 시간오픈소스 모델 운영: Devstral 및 Mistral 모델을 활용한 자체 호스팅, 미세 조정 및 거버넌스
14 시간Devstral와 Mistral 모델은 유연한 배포, 미세 조정 및 확장 가능한 통합이 가능하도록 설계된 오픈소스 AI 기술입니다.
본 교육 과정은 강사가 직접 진행하는 실시간 온라인 또는 현장 강의로서, 중급 이상 수준의 머신러닝 엔지니어, 플랫폼 팀원 및 연구 엔지니어를 대상으로 합니다. 참가자들은 실제 운영 환경에서 Mistral 및 Devstral 모델을 자체 호스팅하고 미세 조정하며 효과적으로 관리하는 방법을 배우게 됩니다.
교육을 마치면 다음과 같은 역량을 갖추게 됩니다:
- Mistral 및 Devstral 모델용 자체 호스팅 환경 설정 및 구성
- 특정 도메인에 맞춘 성능 향상을 위한 미세 조정 기법 적용
- 버전 관리, 모니터링 및 라이프사이클 거버넌스 체계 구축
- 오픈소스 모델의 보안성, 규정 준수 및 책임감 있는 활용 보장
강좌 형식
- 상호작용형 강의 및 토론 진행
- 자체 호스팅 및 미세 조정을 위한 실습 연습
- 거버넌스 및 모니터링 파이프라인 구축을 위한 실시간 실습
교육 과정 맞춤화 옵션
- 본 교육 과정을 고객 요구에 맞게 커스터마이징하고 싶으신 경우, 별도로 연락 주시면 협의해 드리겠습니다.
금융 분야 LangGraph 애플리케이션
35 시간LangGraph 기초: 그래프 기반 LLM 프롬프트 체인 구성법
14 시간보안 환경에서의 워크플로우 오케스트레이션: LangGraph 의료 분야 적용
35 시간법률 애플리케이션을 위한 LangGraph
35 시간LangGraph 및 LLM 에이전트를 활용한 동적 워크플로우 구축
14 시간마케팅 자동화를 위한 LangGraph
14 시간Le Chat Enterprise: 프라이빗 ChatOps, 통합 및 관리자 제어
14 시간비용 효율적인 LLM 아키텍처: Mistral의 스케일 확장 (성능/비용 엔지니어링)
14 시간Mistral 커넥터 및 통합 기능을 활용한 대화형 어시스턴트 제품화
14 시간Mistral Medium 3를 활용한 엔터프라이즈급 배포
14 시간Mistral Medium 3는 엔터프라이즈 환경에서 실제 운영에 바로 사용할 수 있도록 설계된 고성능 멀티모달 대규모 언어 모델입니다.
본 강의는 강사가 직접 진행하는 오프라인 또는 온라인 교육으로, 중급 이상 수준의 AI/ML 엔지니어, 플랫폼 아키텍트 및 MLOps 팀을 대상으로 합니다. 참가자들은 Mistral Medium 3를 기업 환경에 효과적으로 배포하고 최적화하며 보안을 강화하는 방법을 습득하게 됩니다.
강의 종료 후에는 다음과 같은 역량을 갖추게 됩니다:
- API 및 자체 호스팅 방식을 활용해 Mistral Medium 3를 배포할 수 있습니다.
- 추론 성능을 향상시키고 운영 비용을 최적화할 수 있습니다.
- Mistral Medium 3로 다양한 멀티모달 애플리케이션을 구현할 수 있습니다.
- 엔터프라이즈 환경에서 보안 및 규정 준수 요구사항을 충족하는 방안을 적용할 수 있습니다.
강의 형식
- 상호작용적인 강의와 토론이 진행됩니다.
- 다양한 실습 및 연습 문제를 통해 학습 효과를 높입니다.
- 실제 실습 환경에서 직접 코드를 구현해보는 기회도 제공됩니다.
강의 커스터마이징 옵션
- 요구사항에 맞춘 맞춤형 교육을 원하실 경우, 저희에게 문의해 주시기 바랍니다.