Fine-Tuning QLoRA를 사용한 대형 언어 모델 교육 과정
- QLoRA와 양자화 방법론에 대한 이론을 이해합니다.
- QLoRA를 사용하여 대규모 언어 모델을 도메인 특화 응용 프로그램에 미세 조정합니다.
- 양자화를 사용하여 제한된 계산 자원에서 미세 조정 성능을 최적화합니다.
- 미세 조정된 모델을 실제 응용 프로그램에 효율적으로 배포하고 평가합니다.
코스 형식
- 상호작용적인 강의 및 토론.
- 다양한 연습 문제와 실습.
- 실습 실험실 환경에서 직접 구현.
코스 맞춤화 옵션
- 이 코스에 대한 맞춤형 교육을 요청하려면, 연락하여 조치하십시오.
Course Outline
QLoRA 및 양자화 소개
- 양자화의 개요 및 모델 최적화에서의 역할
- QLoRA 프레임워크 및 그 이점 소개
- QLoRA와 전통적인 미세 조정 방법 간의 주요 차이점
Large Language Models (LLMs)의 기본 원리
- LLM 및 그 아키텍처 소개
- 대규모 모델의 미세 조정에 따른 도전 과제
- 양자화가 LLM 미세 조정에서의 계산 제약 극복에 어떻게 도움이 되는지
Fine-Tuning LLM에 대한 QLoRA 구현
- QLoRA 프레임워크 및 환경 설정
- QLoRA 미세 조정을 위한 데이터셋 준비
- Python 및 PyTorch/TensorFlow을 사용하여 LLM에 QLoRA 구현에 대한 단계별 가이드
QLoRA를 통한 Fine-Tuning 성능 최적화
- 양자화를 통해 모델 정확성과 성능 균형 유지 방법
- 미세 조정 중 계산 비용 및 메모리 사용량 줄이기 위한 기술
- 최소한의 하드웨어 요구사항으로 미세 조정하는 전략
미세 조정된 모델 평가
- 미세 조정된 모델의 효과 평가 방법
- 언어 모델에 대한 일반적인 평가 지표
- 미세 조정 후 모델 성능 최적화 및 문제 해결
미세 조정된 모델 배포 및 확장
- 양자화된 LLM을 생산 환경에 배포하기 위한 모범 사례
- 실시간 요청 처리용 배포 확장
- 모델 배포 및 모니터링을 위한 도구 및 프레임워크
실제 사례 및 사례 연구
- 고객 지원 및 NLP 작업에 대한 LLM 미세 조정 사례 연구
- 의료, 금융 및 전자 상거래와 같은 다양한 산업에서 LLM을 미세 조정하는 예
- QLoRA 기반 모델의 실제 배포에서 얻은 교훈
요약 및 다음 단계
Requirements
- 머신러닝의 기초와 신경망에 대한 이해
- 모델 미세 조정 및 전이 학습 경험
- 대형 언어 모델(LLMs)과 딥러닝 프레임워크(예: PyTorch, TensorFlow)에 대한 익숙함
대상자
- 머신러닝 엔지니어
- AI 개발자
- 데이터 과학자
Open Training Courses require 5+ participants.
Fine-Tuning QLoRA를 사용한 대형 언어 모델 교육 과정 - Booking
Fine-Tuning QLoRA를 사용한 대형 언어 모델 교육 과정 - Enquiry
Fine-Tuning QLoRA를 사용한 대형 언어 모델 - Consultancy Enquiry
Consultancy Enquiry
Upcoming Courses
Related Courses
고급 LangGraph: 복잡한 그래프의 최적화, 디버깅 및 모니터링
35 HoursLangGraph는 지속적인 상태를 가지며 여러 액터로 구성된 LLM 애플리케이션을 구성 가능한 그래프로 구축할 수 있는 프레임워크입니다.
이 강사는 온라인 또는 현장 실습을 통해 AI 플랫폼 엔지니어, AI 및 ML 아키텍트들이 LangGraph 시스템을 최적화, 디버깅, 모니터링, 운영할 수 있도록 고급 수준의 지식을 제공합니다.
이 강좌를 마친 후, 참가자들은 다음을 할 수 있게 됩니다:
- 속도, 비용, 확장성을 고려한 복잡한 LangGraph 토폴로지를 설계하고 최적화합니다.
- 재시도, 타임아웃, 아이뎀포턴시, 체크포인트 기반 복구를 통해 신뢰성을 강화합니다.
- 그래프 실행, 상태 검사 및 생산 문제를 체계적으로 재현할 수 있습니다.
- 로그, 메트릭 및 트레이스를 그래프에 통합하고, 프로덕션에 배포하며, SLAs 및 비용을 모니터링합니다.
강좌 형식
- 상호작용적인 강의 및 토론.
- 다양한 연습 및 실습.
- 실습 환경에서의 실습 구현.
강좌 맞춤화 옵션
- 이 강좌의 맞춤형 교육을 요청하려면 문의해 주세요.
Devstral을 사용하여 코딩 에이전트 구축: 에이전트 디자인에서 도구 사용까지
14 HoursDevstral은 코드베이스, 개발 도구, 그리고 API와 상호작용하여 엔지니어링 생산성을 향상시키기 위한 코딩 에이전트를 구축하고 실행하기 위해 설계된 오픈 소스 프레임워크입니다.
이 강사는 중간 수준에서 고급 수준의 ML 엔지니어, 개발자 도구 팀, 그리고 Devstral을 사용하여 코딩 에이전트를 설계, 구현 및 최적화하고자 하는 SRE을 대상으로 하는 온라인 또는 현장 실습 교육입니다.
이 교육을 마친 후, 참가자들은 다음을 할 수 있을 것입니다:
- 코딩 에이전트 개발을 위한 Devstral 설정 및 구성.
- 코드베이스 탐색 및 수정을 위한 에이전트 워크플로우 설계.
- 개발 도구 및 API와 코딩 에이전트 통합.
- 안전한 및 효율적인 에이전트 배포를 위한 최선의 실천 방법 구현.
수업 형식
- 상호작용 강의 및 토론.
- 다양한 연습과 실습.
- 실습 환경에서 직접 구현.
수업 커스터마이징 옵션
- 이 수업에 대한 커스터마이즈된 교육을 요청하려면 연락 주세요.
오픈 소스 모델 오퍼레이션: Devstral & Mistral 모델을 이용한 셀프 호스팅, 파인튜닝 및 관리
14 HoursDevstral 및 Mistral 모델은 유연한 배포, 미세 조정, 그리고 확장 가능한 통합을 위한 오픈 소스 AI 기술입니다.
이 강사는 중간 수준에서 고급 수준의 ML 엔지니어, 플랫폼 팀, 그리고 연구 엔지니어가 Mistral 및 Devstral 모델을 자체 호스팅, 미세 조정 및 프로덕션 환경에서 관리할 수 있도록 하는 온라인 또는 현장 기반의 실시간 교육 과정입니다.
이 교육을 마치면 참가자들은 다음과 같은 능력을 갖게 됩니다:
- Mistral 및 Devstral 모델을 위한 자체 호스팅 환경 설정 및 구성.
- 도메인 특정 성능을 위한 미세 조정 기술 적용.
- 버전 관리, 모니터링, 라이프사이클 관리 구현.
- 오픈 소스 모델의 보안, 준수, 책임 있는 사용 보장.
과정 형식
- 상호작용형 강의 및 토론.
- 자체 호스팅 및 미세 조정에 대한 실습 연습.
- 정책 및 모니터링 파이프라인의 실시간 실험실 구현.
과정 맞춤화 옵션
- 이 과정에 대해 맞춤형 교육을 요청하려면, 연락하여 안내를 받으십시오.
LangGraph 금융 응용
35 HoursLangGraph는 상태 유지 및 다중 액터 LLM 애플리케이션을 조합 가능한 그래프로 구축하기 위한 프레임워크로, 지속적인 상태와 실행에 대한 제어를 제공합니다.
이 강사는 중급에서 고급 수준의 전문가들을 대상으로 하며, 적절한 관리, 관찰 가능성, 준수성을 갖춘 LangGraph 기반 금융 솔루션을 설계, 구현 및 운영하는 방법을 학습합니다.
이 교육을 마치면 참가자들은 다음을 할 수 있습니다:
- 규제 및 감사 요구 사항에 맞는 금융 전용 LangGraph 워크플로우를 설계합니다.
- 금융 데이터 표준 및 온톨로지를 그래프 상태 및 도구에 통합합니다.
- 중요한 프로세스에 대한 신뢰성, 안전성 및 인간 개입 제어를 구현합니다.
- 성능, 비용 및 SLA를 위해 LangGraph 시스템을 배포, 모니터링 및 최적화합니다.
강의 형식
- 상호작용 강의 및 토론.
- 수많은 연습 및 실습.
- 라이브 랩 환경에서 직접 구현.
강의 맞춤화 옵션
- 이 강의를 맞춤형으로 교육받기 원하시면, 문의하여 안내받으세요.
LangGraph Foundations: Graph-Based LLM Prompting and Chaining
14 HoursLangGraph는 계획, 분기, 도구 사용, 메모리 및 제어 가능한 실행 기능을 지원하는 그래프 구조의 LLM 애플리케이션을 구축하기 위한 프레임워크입니다.
이 강사는 온라인 또는 오프라인에서 진행되는 강사 주도의 라이브 트레이닝(온라인 또는 현장)에서 초급 개발자, 프로프트 엔지니어, 데이터 전문가들이 LangGraph를 사용하여 신뢰할 수 있고 다단계 LLM 워크플로우를 설계하고 구축하고자 하는 사람들에게 적합합니다.
이 트레이닝을 마치면 참가자는 다음을 할 수 있습니다:
- 핵심 LangGraph 개념(nodes, edges, state) 및 그 사용 시기를 설명합니다.
- 분기, 도구 호출 및 메모리 유지 기능을 갖춘 프롬프트 체인을 구축합니다.
- 검색 및 외부 API를 그래프 워크플로우에 통합합니다.
- 신뢰성과 안전성을 위해 LangGraph 앱을 테스트, 디버깅 및 평가합니다.
코스 형식
- 상호작용형 강의 및 논의
- 샌드박스 환경에서 안내형 실습 및 코드 워크스루
- 설계, 테스트 및 평가에 중점을 둔 시나리오 기반 연습
코스 맞춤화 옵션
- 이 코스의 맞춤형 트레이닝을 요청하려면 연락하여 조정을 부탁하십시오.
LangGraph in Healthcare: 규제 환경에서의 워크플로우 오케스트레이션
35 HoursLangGraph는 상태가 있는 다중 액터 워크플로를 LLMs로 구동하며 실행 경로와 상태 지속성에 대한 정확한 제어를 가능하게 합니다. 의료 분야에서는 이러한 기능이 규제 준수, 상호 운용성, 그리고 의료 워크플로와 일치하는 결정 지원 시스템 구축에 중요합니다.
이 강사는 중간 수준부터 고급 수준의 전문가를 대상으로 하며, LangGraph 기반의 의료 솔루션을 설계, 구현, 관리하고 규제, 윤리적, 운영상의 문제를 해결하는 방법을 배우는 것을 목표로 합니다.
이 강좌를 마친 후 참가자들은 다음을 수행할 수 있게 됩니다:
- 규제 준수와 감사 가능성을 고려하여 의료 전문 LangGraph 워크플로를 설계합니다.
- LangGraph 애플리케이션을 의료 온톨로지와 표준(FHIR, SNOMED CT, ICD)과 통합합니다.
- 민감한 환경에서 신뢰성, 추적 가능성, 설명 가능성을 위한 모범 사례를 적용합니다.
- 의료 생산 환경에서 LangGraph 애플리케이션을 배포, 모니터링 및 검증합니다.
강좌 형식
- 대화형 강의 및 토론.
- 실제 사례 연구를 통해 직접 연습.
- 실시간 실험실 환경에서의 구현 연습.
강좌 맞춤화 옵션
- 이 강좌에 대한 맞춤형 교육을 요청하려면 문의하여 조율해 주세요.
LangGraph for Legal Applications
35 HoursLangGraph는 상태를 유지하고, 다중 액터를 가진 LLM 애플리케이션을 구성 가능한 그래프로 만들 수 있는 프레임워크입니다. 이는 지속적인 상태와 실행에 대한 정확한 제어를 제공합니다.
이 강사는 중간 수준에서 고급 수준의 전문가들을 대상으로 합니다. 이들은 LangGraph 기반의 법률 솔루션을 설계하고, 구현하며, 운영하고자 하며, 필요한 규정 준수, 추적 가능성, 그리고 관리 제어 기능을 포함하고자 합니다.
이 교육을 마치면 참가자들은 다음을 할 수 있을 것입니다:
- 감사 가능성과 규정 준수를 보존하는 법률 전문 LangGraph 워크플로우를 설계합니다.
- 법률 온톨로지와 문서 표준을 그래프 상태와 처리에 통합합니다.
- 가이드레일, 인간-루프 승인, 그리고 추적 가능한 결정 경로를 구현합니다.
- 감시 가능성과 비용 제어를 포함한 LangGraph 서비스를 생산 환경에서 배포, 모니터링 및 유지 관리합니다.
강의 형식
- 상호작용 있는 강의 및 토론.
- 많은 연습과 실습.
- 라이브 랩 환경에서의 실습 구현.
강의 맞춤화 옵션
- 이 강의를 맞춤화된 교육으로 요청하려면 연락하여 준비해 주십시오.
동적 워크플로우 구축: LangGraph와 LLM 에이전트 활용
14 HoursLangGraph는 분기, 도구 사용, 메모리, 그리고 제어 가능한 실행을 지원하는 그래프 구조의 LLM 워크플로우를 구성하는 프레임워크입니다.
이 강사는 중간 수준의 엔지니어와 제품 팀을 대상으로 LangGraph의 그래프 논리와 LLM 에이전트 루프를 결합하여 고객 지원 에이전트, 의사결정 트리, 정보 검색 시스템 등 동적이며 맥락 인식 응용 프로그램을 구축하고자 하는 사람들에게 맞춤형으로 진행됩니다.
이 강의를 마치면 참가자들은 다음과 같은 능력을 갖게 될 것입니다:
- LLM 에이전트, 도구, 메모리를 조율하는 그래프 기반 워크플로우를 설계합니다.
- 강력한 실행을 위한 조건부 라우팅, 재시도 및 폴백을 구현합니다.
- 검색, API, 구조화된 출력을 에이전트 루프에 통합합니다.
- 신뢰성과 안전성을 위해 에이전트 동작을 평가, 모니터링 및 강화합니다.
강좌 형식
- 대화형 강의 및 주제 토론.
- 샌드박스 환경에서 진행되는 안내형 실습 및 코드 워크스루.
- 시나리오 기반 설계 연습 및 동료 검토.
강좌 맞춤화 옵션
- 이 강좌의 맞춤형 교육을 요청하려면, 배정하기 위해 연락 주세요.
LangGraph 마케팅 자동화
14 HoursLangGraph는 조건부, 다단계 LLM 및 도구 워크플로우를 가능하게 하는 그래프 기반 오케스트레이션 프레임워크로, 콘텐츠 파이프라인 자동화와 개인화에 최적화되어 있습니다.
이 강사는 중급 마케터, 콘텐츠 전략가, 자동화 개발자들을 대상으로 하며, LangGraph를 사용하여 동적 분기형 이메일 캠페인과 콘텐츠 생성 파이프라인을 구현하고자 합니다. (온라인 또는 오프라인)
이 교육을 마친 후, 참가자들은 다음을 수행할 수 있게 됩니다:
- 조건부 논리를 적용한 그래프 구조 콘텐츠와 이메일 워크플로우를 설계합니다.
- 자동 개인화를 위한 LLMs, APIs, 데이터 소스를 통합합니다.
- 다단계 캠페인에서 상태, 메모리, 컨텍스트를 관리합니다.
- 워크플로우 성능과 전달 결과의 평가, 모니터링 및 최적화를 수행합니다.
강의 형식
- 상호작용형 강의와 그룹 토론
- 이메일 워크플로우와 콘텐츠 파이프라인 구현 실습
- 개인화, 세분화, 분기 논리에 대한 시나리오 기반 연습
강의 맞춤화 옵션
- 이 강의를 맞춤화된 교육으로 요청하려면, 안내를 위해 문의하세요.
Le Chat Enterprise: 개인화된 ChatOps, 통합 및 관리자 컨트롤
14 HoursLe Chat Enterprise는 조직을 위한 보안, 맞춤화 가능하고 통치 가능한 대화형 인공지능 기능을 제공하는 프라이빗 ChatOps 솔루션으로, RBAC, SSO, 커넥터 및 기업 애플리케이션 통합을 지원합니다.
이 강사는 중급 수준의 제품 관리자, IT 리더, 솔루션 엔지니어 및 보안/준수 팀을 대상으로 하여, Le Chat Enterprise를 기업 환경에서 배포, 구성 및 관리할 수 있도록 하는 온라인 또는 오프사이트 라이브 강의입니다.
이 훈련을 통해 참가자들은 다음을 할 수 있게 됩니다:
- Le Chat Enterprise를 보안 배포를 위해 설정하고 구성합니다.
- RBAC, SSO 및 준수 중심의 제어를 활성화합니다.
- Le Chat을 기업 애플리케이션 및 데이터 스토어와 통합합니다.
- ChatOps를 위한 관리 및 운영 매뉴얼을 설계하고 구현합니다.
강의 형식
- 상호작용형 강의 및 토론.
- 다양한 연습과 실습.
- 라이브 랩 환경에서의 직접 실습.
강의 커스터마이징 옵션
- 이 강의에 대해 커스터마이징된 교육을 요청하려면, 연락하여 조율해 주세요.
비용 효율적인 LLM 아키텍처: Mistral 대규모 배포 (성능/비용 엔지니어링)
14 HoursMistral은 비용 효율적인 대규모 배포를 최적화한 고성능 대형 언어 모델 패밀리입니다.
이 강사는 고급 수준의 인프라 엔지니어, 클라우드 아키텍트, 그리고 MLOps 리드에게 Mistral 기반 아키텍처를 설계, 배포 및 최적화하여 최대 처리량과 최소 비용을 달성하는 방법을 학습하도록 설계되었습니다. 온라인 또는 현장 강의입니다.
이 교육을 마치면 참여자들은 다음을 할 수 있게 됩니다:
- Mistral Medium 3의 확장 가능한 배포 패턴을 구현합니다.
- 배칭, 양자화 및 효율적인 제공 전략을 적용합니다.
- 성능을 유지하면서 추론 비용을 최적화합니다.
- 기업 워크로드에 대한 생산 준비 완료 제공 토폴로지를 설계합니다.
강의 형식
- 대화형 강의 및 토론.
- 수많은 연습과 문제 해결.
- 라이브 랩 환경에서의 실습 구현.
강의 맞춤화 옵션
- 이 강의를 위한 맞춤형 교육을 요청하려면 연락하여 조치를 취하세요.
미스트랄 커넥터 및 통합을 이용한 대화형 어시스턴트 제품화
14 HoursMistral AI는 기업 및 고객 맞춤형 워크플로우에 대화형 어시스턴트를 구축하고 통합할 수 있도록 하는 오픈 AI 플랫폼입니다.
이 강사는 초급부터 중급 수준의 제품 관리자, 풀스택 개발자, 통합 엔지니어를 대상으로 하며, Mistral 커넥터와 통합을 사용하여 대화형 어시스턴트를 설계, 통합하고 제품화하는 방법을 학습할 수 있습니다.
이 강좌를 마친 후, 참가자들은 다음과 같은 작업을 수행할 수 있게 됩니다:
- 기업 및 SaaS 커넥터와 Mistral 대화형 모델을 통합합니다.
- 근거 있는 응답을 위해 검색 강화 생성(RAG)을 구현합니다.
- 내부 및 외부 채팅 어시스턴트를 위한 UX 패턴을 설계합니다.
- 실제 사용 사례를 위해 어시스턴트를 제품 워크플로우에 배포합니다.
강좌 형식
- 상호작용형 강의 및 토론
- 실습 통합 연습
- 실시간 대화형 어시스턴트 개발
강좌 맞춤화 옵션
- 이 강좌에 대한 맞춤형 교육을 요청하려면, 맞춤화된 교육을 신청해 주십시오.
미스트랄 미디엄 3로 기업급 배포
14 HoursMistral Medium 3는 기업 환경에서 생산 환경에 적합한 고성능 다중 모달 대형 언어 모델입니다.
이 강의는 중간 수준에서 고급 수준의 AI/ML 엔지니어, 플랫폼 아키텍트, 그리고 MLOps 팀을 대상으로, 기업용 사례에 Mistral Medium 3를 배포, 최적화, 그리고 보안 강화하기 위한 온라인 또는 현장 교육을 제공합니다.
이 교육을 마치면 참가자들은 다음을 할 수 있습니다:
- API 및 자체 호스팅 옵션을 사용하여 Mistral Medium 3를 배포합니다.
- 추론 성능과 비용을 최적화합니다.
- Mistral Medium 3로 다중 모달 사용 사례를 구현합니다.
- 기업 환경에 대한 보안 및 준수 최선 방식을 적용합니다.
강의 형식
- 대화형 강의 및 토론.
- 많은 연습과 연습 문제.
- 라이브 랩 환경에서 직접 구현합니다.
강의 맞춤화 옵션
- 이 강의를 맞춤화된 교육으로 요청하려면, 맞춤화 교육을 요청하려면 문의해 주세요.
미스트랄을 통한 책임 있는 AI: 프라이버시, 데이터 주거권 및 기업 제어
14 HoursMistral AI는 보안, 준수, 책임 있는 AI 배포를 위한 기능이 포함된 오픈 및 기업 준비 AI 플랫폼입니다.
이 강사는 중간 수준의 준수 책임자, 보안 아키텍트, 법률/운영 스테이크홀더를 대상으로 하여, Mistral을 활용하여 개인정보 보호, 데이터 주재성, 기업 컨트롤 메커니즘을 통해 책임 있는 AI 관행을 구현하고자 하는 온라인 또는 현장 강의입니다.
이 강의를 통해 참가자는 다음을 수행할 수 있게 됩니다:
- Mistral 배포에 개인정보 보호 기법을 구현합니다.
- 규제 요구 사항을 충족하기 위해 데이터 주재성 전략을 적용합니다.
- RBAC, SSO 및 감사 로그와 같은 기업 수준 컨트롤을 설정합니다.
- 준수 정렬을 위한 벤더 및 배포 옵션을 평가합니다.
강의 형식
- 상호작용형 강의 및 토론.
- 준수 중심 사례 연구 및 연습.
- 기업 AI 컨트롤의 실습 구현.
강의 맞춤화 옵션
- 이 강의를 맞춤형으로 요청하려면 연락 주시기 바랍니다.
멀티모달 애플리케이션을 위한 Mistral 모델 (비전, OCR, & 문서 이해)
14 HoursMistral 모델은 오픈 소스 AI 기술을 기반으로 하여 언어와 시각 작업을 모두 지원하는 멀티모달 워크플로우로 확장되었습니다. 이를 통해 기업 및 연구용 응용 프로그램을 지원합니다.
이 온라인 또는 현장 강의는 중간 수준의 ML 연구자, 응용 엔지니어, 제품 팀을 대상으로 하여 Mistral 모델을 사용하여 OCR 및 문서 이해 파이프라인을 포함한 멀티모달 응용 프로그램을 구축하는 방법을 배웁니다.
이 교육을 통해 참가자는 다음과 같은 능력을 갖출 것입니다:
- 멀티모달 작업을 위한 Mistral 모델 설정 및 구성.
- OCR 워크플로우 구현 및 NLP 파이프라인과 통합.
- 기업용 사례를 위한 문서 이해 응용 프로그램 설계.
- 시각-텍스트 검색 및 보조 UI 기능 개발.
강의 형식
- 상호작용 강의 및 토론.
- 실습 코딩 연습.
- 멀티모달 파이프라인 실시간 구현.
강의 커스터마이징 옵션
- 이 강의를 맞춤형으로 신청하려면, 커스터마이징을 요청해 주세요.