Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs 교육 과정
Parameter-Efficient Fine-Tuning (PEFT)는 대규모 언어 모델(LM)의 작은 부분의 매개변수를 수정하여 효율적인 적응을 가능하게 하는 기술의 모음입니다.
이 강사는 중급 수준의 데이터 과학자 및 AI 엔지니어를 대상으로 하며, LoRA, Adapter Tuning, Prefix Tuning 등의 방법으로 대규모 언어 모델을 더 저렴하고 효율적으로 미세 조정하는 방법을 배우고자 하는 사람들을 위한 온라인 또는 오프라인 인스트럭터 주도형 라이브 트레이닝입니다.
이 트레이닝을 통해 참가자들은 다음을 할 수 있게 됩니다:
- 매개변수 효율적인 미세 조정 접근법의 이론을 이해합니다.
- Hugging Face PEFT를 사용하여 LoRA, Adapter Tuning, Prefix Tuning을 구현합니다.
- PEFT 방법과 전체 미세 조정의 성능과 비용을 비교합니다.
- 저축된 계산 및 저장 공간을 사용하여 미세 조정된 LM을 배포하고 확장합니다.
강좌 형식
- 상호작용 강의 및 토론.
- 다양한 연습과 문제풀이.
- 라이브 랩 환경에서 직접 실습.
강좌 커스터마이징 옵션
- 이 강좌에 대한 맞춤형 트레이닝을 신청하려면, 커스터마이징을 의논하기 위해 문의해 주세요.
Course Outline
파라미터 효율적 조정(PEFT) 소개
- 전체 미세 조정에 대한 동기 및 제한 사항
- PEFT 개요: 목표 및 이익
- 산업에서의 응용 사례 및 사용 사례
LoRA (저랭크 적응)
- LoRA의 개념 및 직관
- Hugging Face과 PyTorch을 사용하여 LoRA 구현
- 실습: LoRA를 사용하여 모델 미세 조정
어댑터 튜닝
- 어댑터 모듈 작동 방식
- 트랜스포머 기반 모델과의 통합
- 실습: 트랜스포머 모델에 어댑터 튜닝 적용
프리픽스 튜닝
- 소프트 프롬프트 사용
- LoRA와 어댑터와의 비교: 장단점
- 실습: LLM 작업에 대한 프리픽스 튜닝
PEFT 방법 평가 및 비교
- 성능 및 효율성 평가를 위한 지표
- 학습 속도, 메모리 사용량 및 정확도 간의 트레이드오프
- 벤치마킹 실험 및 결과 해석
미세 조정된 모델 배포
- 미세 조정된 모델 저장 및 로드
- PEFT 기반 모델을 위한 배포 고려 사항
- 애플리케이션 및 파이프라인과의 통합
최고의 실천 방법 및 확장
- PEFT와 양자화 및 증류 조합
- 저자원 및 다언어 설정에서의 사용
- 미래 방향 및 활발한 연구 분야
요약 및 다음 단계
Requirements
- 머신러닝 기본 개념에 대한 이해
- 대형 언어 모델(LLMs)과 작업한 경험
- Python 및 PyTorch에 대한 익숙함
대상
- 데이터 과학자
- AI 엔지니어
Open Training Courses require 5+ participants.
Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs 교육 과정 - Booking
Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs 교육 과정 - Enquiry
Parameter-Efficient Fine-Tuning (PEFT) Techniques for LLMs - 컨설팅 문의
컨설팅 문의
Upcoming Courses
Related Courses
고급 LangGraph: 복잡한 그래프의 최적화, 디버깅 및 모니터링
35 HoursLangGraph는 지속적인 상태를 가지며 여러 액터로 구성된 LLM 애플리케이션을 구성 가능한 그래프로 구축할 수 있는 프레임워크입니다.
이 강사는 온라인 또는 현장 실습을 통해 AI 플랫폼 엔지니어, AI 및 ML 아키텍트들이 LangGraph 시스템을 최적화, 디버깅, 모니터링, 운영할 수 있도록 고급 수준의 지식을 제공합니다.
이 강좌를 마친 후, 참가자들은 다음을 할 수 있게 됩니다:
- 속도, 비용, 확장성을 고려한 복잡한 LangGraph 토폴로지를 설계하고 최적화합니다.
- 재시도, 타임아웃, 아이뎀포턴시, 체크포인트 기반 복구를 통해 신뢰성을 강화합니다.
- 그래프 실행, 상태 검사 및 생산 문제를 체계적으로 재현할 수 있습니다.
- 로그, 메트릭 및 트레이스를 그래프에 통합하고, 프로덕션에 배포하며, SLAs 및 비용을 모니터링합니다.
강좌 형식
- 상호작용적인 강의 및 토론.
- 다양한 연습 및 실습.
- 실습 환경에서의 실습 구현.
강좌 맞춤화 옵션
- 이 강좌의 맞춤형 교육을 요청하려면 문의해 주세요.
Devstral을 사용하여 코딩 에이전트 구축: 에이전트 디자인에서 도구 사용까지
14 HoursDevstral은 코드베이스, 개발 도구, 그리고 API와 상호작용하여 엔지니어링 생산성을 향상시키기 위한 코딩 에이전트를 구축하고 실행하기 위해 설계된 오픈 소스 프레임워크입니다.
이 강사는 중간 수준에서 고급 수준의 ML 엔지니어, 개발자 도구 팀, 그리고 Devstral을 사용하여 코딩 에이전트를 설계, 구현 및 최적화하고자 하는 SRE을 대상으로 하는 온라인 또는 현장 실습 교육입니다.
이 교육을 마친 후, 참가자들은 다음을 할 수 있을 것입니다:
- 코딩 에이전트 개발을 위한 Devstral 설정 및 구성.
- 코드베이스 탐색 및 수정을 위한 에이전트 워크플로우 설계.
- 개발 도구 및 API와 코딩 에이전트 통합.
- 안전한 및 효율적인 에이전트 배포를 위한 최선의 실천 방법 구현.
수업 형식
- 상호작용 강의 및 토론.
- 다양한 연습과 실습.
- 실습 환경에서 직접 구현.
수업 커스터마이징 옵션
- 이 수업에 대한 커스터마이즈된 교육을 요청하려면 연락 주세요.
오픈 소스 모델 오퍼레이션: Devstral & Mistral 모델을 이용한 셀프 호스팅, 파인튜닝 및 관리
14 HoursDevstral 및 Mistral 모델은 유연한 배포, 미세 조정, 그리고 확장 가능한 통합을 위한 오픈 소스 AI 기술입니다.
이 강사는 중간 수준에서 고급 수준의 ML 엔지니어, 플랫폼 팀, 그리고 연구 엔지니어가 Mistral 및 Devstral 모델을 자체 호스팅, 미세 조정 및 프로덕션 환경에서 관리할 수 있도록 하는 온라인 또는 현장 기반의 실시간 교육 과정입니다.
이 교육을 마치면 참가자들은 다음과 같은 능력을 갖게 됩니다:
- Mistral 및 Devstral 모델을 위한 자체 호스팅 환경 설정 및 구성.
- 도메인 특정 성능을 위한 미세 조정 기술 적용.
- 버전 관리, 모니터링, 라이프사이클 관리 구현.
- 오픈 소스 모델의 보안, 준수, 책임 있는 사용 보장.
과정 형식
- 상호작용형 강의 및 토론.
- 자체 호스팅 및 미세 조정에 대한 실습 연습.
- 정책 및 모니터링 파이프라인의 실시간 실험실 구현.
과정 맞춤화 옵션
- 이 과정에 대해 맞춤형 교육을 요청하려면, 연락하여 안내를 받으십시오.
LangGraph 금융 응용
35 HoursLangGraph는 상태 유지 및 다중 액터 LLM 애플리케이션을 조합 가능한 그래프로 구축하기 위한 프레임워크로, 지속적인 상태와 실행에 대한 제어를 제공합니다.
이 강사는 중급에서 고급 수준의 전문가들을 대상으로 하며, 적절한 관리, 관찰 가능성, 준수성을 갖춘 LangGraph 기반 금융 솔루션을 설계, 구현 및 운영하는 방법을 학습합니다.
이 교육을 마치면 참가자들은 다음을 할 수 있습니다:
- 규제 및 감사 요구 사항에 맞는 금융 전용 LangGraph 워크플로우를 설계합니다.
- 금융 데이터 표준 및 온톨로지를 그래프 상태 및 도구에 통합합니다.
- 중요한 프로세스에 대한 신뢰성, 안전성 및 인간 개입 제어를 구현합니다.
- 성능, 비용 및 SLA를 위해 LangGraph 시스템을 배포, 모니터링 및 최적화합니다.
강의 형식
- 상호작용 강의 및 토론.
- 수많은 연습 및 실습.
- 라이브 랩 환경에서 직접 구현.
강의 맞춤화 옵션
- 이 강의를 맞춤형으로 교육받기 원하시면, 문의하여 안내받으세요.
LangGraph Foundations: Graph-Based LLM Prompting and Chaining
14 HoursLangGraph는 계획, 분기, 도구 사용, 메모리 및 제어 가능한 실행 기능을 지원하는 그래프 구조의 LLM 애플리케이션을 구축하기 위한 프레임워크입니다.
이 강사는 온라인 또는 오프라인에서 진행되는 강사 주도의 라이브 트레이닝(온라인 또는 현장)에서 초급 개발자, 프로프트 엔지니어, 데이터 전문가들이 LangGraph를 사용하여 신뢰할 수 있고 다단계 LLM 워크플로우를 설계하고 구축하고자 하는 사람들에게 적합합니다.
이 트레이닝을 마치면 참가자는 다음을 할 수 있습니다:
- 핵심 LangGraph 개념(nodes, edges, state) 및 그 사용 시기를 설명합니다.
- 분기, 도구 호출 및 메모리 유지 기능을 갖춘 프롬프트 체인을 구축합니다.
- 검색 및 외부 API를 그래프 워크플로우에 통합합니다.
- 신뢰성과 안전성을 위해 LangGraph 앱을 테스트, 디버깅 및 평가합니다.
코스 형식
- 상호작용형 강의 및 논의
- 샌드박스 환경에서 안내형 실습 및 코드 워크스루
- 설계, 테스트 및 평가에 중점을 둔 시나리오 기반 연습
코스 맞춤화 옵션
- 이 코스의 맞춤형 트레이닝을 요청하려면 연락하여 조정을 부탁하십시오.
LangGraph in Healthcare: 규제 환경에서의 워크플로우 오케스트레이션
35 HoursLangGraph는 상태가 있는 다중 액터 워크플로를 LLMs로 구동하며 실행 경로와 상태 지속성에 대한 정확한 제어를 가능하게 합니다. 의료 분야에서는 이러한 기능이 규제 준수, 상호 운용성, 그리고 의료 워크플로와 일치하는 결정 지원 시스템 구축에 중요합니다.
이 강사는 중간 수준부터 고급 수준의 전문가를 대상으로 하며, LangGraph 기반의 의료 솔루션을 설계, 구현, 관리하고 규제, 윤리적, 운영상의 문제를 해결하는 방법을 배우는 것을 목표로 합니다.
이 강좌를 마친 후 참가자들은 다음을 수행할 수 있게 됩니다:
- 규제 준수와 감사 가능성을 고려하여 의료 전문 LangGraph 워크플로를 설계합니다.
- LangGraph 애플리케이션을 의료 온톨로지와 표준(FHIR, SNOMED CT, ICD)과 통합합니다.
- 민감한 환경에서 신뢰성, 추적 가능성, 설명 가능성을 위한 모범 사례를 적용합니다.
- 의료 생산 환경에서 LangGraph 애플리케이션을 배포, 모니터링 및 검증합니다.
강좌 형식
- 대화형 강의 및 토론.
- 실제 사례 연구를 통해 직접 연습.
- 실시간 실험실 환경에서의 구현 연습.
강좌 맞춤화 옵션
- 이 강좌에 대한 맞춤형 교육을 요청하려면 문의하여 조율해 주세요.
LangGraph for Legal Applications
35 HoursLangGraph는 상태를 유지하고, 다중 액터를 가진 LLM 애플리케이션을 구성 가능한 그래프로 만들 수 있는 프레임워크입니다. 이는 지속적인 상태와 실행에 대한 정확한 제어를 제공합니다.
이 강사는 중간 수준에서 고급 수준의 전문가들을 대상으로 합니다. 이들은 LangGraph 기반의 법률 솔루션을 설계하고, 구현하며, 운영하고자 하며, 필요한 규정 준수, 추적 가능성, 그리고 관리 제어 기능을 포함하고자 합니다.
이 교육을 마치면 참가자들은 다음을 할 수 있을 것입니다:
- 감사 가능성과 규정 준수를 보존하는 법률 전문 LangGraph 워크플로우를 설계합니다.
- 법률 온톨로지와 문서 표준을 그래프 상태와 처리에 통합합니다.
- 가이드레일, 인간-루프 승인, 그리고 추적 가능한 결정 경로를 구현합니다.
- 감시 가능성과 비용 제어를 포함한 LangGraph 서비스를 생산 환경에서 배포, 모니터링 및 유지 관리합니다.
강의 형식
- 상호작용 있는 강의 및 토론.
- 많은 연습과 실습.
- 라이브 랩 환경에서의 실습 구현.
강의 맞춤화 옵션
- 이 강의를 맞춤화된 교육으로 요청하려면 연락하여 준비해 주십시오.
동적 워크플로우 구축: LangGraph와 LLM 에이전트 활용
14 HoursLangGraph는 분기, 도구 사용, 메모리, 그리고 제어 가능한 실행을 지원하는 그래프 구조의 LLM 워크플로우를 구성하는 프레임워크입니다.
이 강사는 중간 수준의 엔지니어와 제품 팀을 대상으로 LangGraph의 그래프 논리와 LLM 에이전트 루프를 결합하여 고객 지원 에이전트, 의사결정 트리, 정보 검색 시스템 등 동적이며 맥락 인식 응용 프로그램을 구축하고자 하는 사람들에게 맞춤형으로 진행됩니다.
이 강의를 마치면 참가자들은 다음과 같은 능력을 갖게 될 것입니다:
- LLM 에이전트, 도구, 메모리를 조율하는 그래프 기반 워크플로우를 설계합니다.
- 강력한 실행을 위한 조건부 라우팅, 재시도 및 폴백을 구현합니다.
- 검색, API, 구조화된 출력을 에이전트 루프에 통합합니다.
- 신뢰성과 안전성을 위해 에이전트 동작을 평가, 모니터링 및 강화합니다.
강좌 형식
- 대화형 강의 및 주제 토론.
- 샌드박스 환경에서 진행되는 안내형 실습 및 코드 워크스루.
- 시나리오 기반 설계 연습 및 동료 검토.
강좌 맞춤화 옵션
- 이 강좌의 맞춤형 교육을 요청하려면, 배정하기 위해 연락 주세요.
LangGraph 마케팅 자동화
14 HoursLangGraph는 조건부, 다단계 LLM 및 도구 워크플로우를 가능하게 하는 그래프 기반 오케스트레이션 프레임워크로, 콘텐츠 파이프라인 자동화와 개인화에 최적화되어 있습니다.
이 강사는 중급 마케터, 콘텐츠 전략가, 자동화 개발자들을 대상으로 하며, LangGraph를 사용하여 동적 분기형 이메일 캠페인과 콘텐츠 생성 파이프라인을 구현하고자 합니다. (온라인 또는 오프라인)
이 교육을 마친 후, 참가자들은 다음을 수행할 수 있게 됩니다:
- 조건부 논리를 적용한 그래프 구조 콘텐츠와 이메일 워크플로우를 설계합니다.
- 자동 개인화를 위한 LLMs, APIs, 데이터 소스를 통합합니다.
- 다단계 캠페인에서 상태, 메모리, 컨텍스트를 관리합니다.
- 워크플로우 성능과 전달 결과의 평가, 모니터링 및 최적화를 수행합니다.
강의 형식
- 상호작용형 강의와 그룹 토론
- 이메일 워크플로우와 콘텐츠 파이프라인 구현 실습
- 개인화, 세분화, 분기 논리에 대한 시나리오 기반 연습
강의 맞춤화 옵션
- 이 강의를 맞춤화된 교육으로 요청하려면, 안내를 위해 문의하세요.
Le Chat Enterprise: 개인화된 ChatOps, 통합 및 관리자 컨트롤
14 HoursLe Chat Enterprise는 조직을 위한 보안, 맞춤화 가능하고 통치 가능한 대화형 인공지능 기능을 제공하는 프라이빗 ChatOps 솔루션으로, RBAC, SSO, 커넥터 및 기업 애플리케이션 통합을 지원합니다.
이 강사는 중급 수준의 제품 관리자, IT 리더, 솔루션 엔지니어 및 보안/준수 팀을 대상으로 하여, Le Chat Enterprise를 기업 환경에서 배포, 구성 및 관리할 수 있도록 하는 온라인 또는 오프사이트 라이브 강의입니다.
이 훈련을 통해 참가자들은 다음을 할 수 있게 됩니다:
- Le Chat Enterprise를 보안 배포를 위해 설정하고 구성합니다.
- RBAC, SSO 및 준수 중심의 제어를 활성화합니다.
- Le Chat을 기업 애플리케이션 및 데이터 스토어와 통합합니다.
- ChatOps를 위한 관리 및 운영 매뉴얼을 설계하고 구현합니다.
강의 형식
- 상호작용형 강의 및 토론.
- 다양한 연습과 실습.
- 라이브 랩 환경에서의 직접 실습.
강의 커스터마이징 옵션
- 이 강의에 대해 커스터마이징된 교육을 요청하려면, 연락하여 조율해 주세요.
비용 효율적인 LLM 아키텍처: Mistral 대규모 배포 (성능/비용 엔지니어링)
14 HoursMistral은 비용 효율적인 대규모 배포를 최적화한 고성능 대형 언어 모델 패밀리입니다.
이 강사는 고급 수준의 인프라 엔지니어, 클라우드 아키텍트, 그리고 MLOps 리드에게 Mistral 기반 아키텍처를 설계, 배포 및 최적화하여 최대 처리량과 최소 비용을 달성하는 방법을 학습하도록 설계되었습니다. 온라인 또는 현장 강의입니다.
이 교육을 마치면 참여자들은 다음을 할 수 있게 됩니다:
- Mistral Medium 3의 확장 가능한 배포 패턴을 구현합니다.
- 배칭, 양자화 및 효율적인 제공 전략을 적용합니다.
- 성능을 유지하면서 추론 비용을 최적화합니다.
- 기업 워크로드에 대한 생산 준비 완료 제공 토폴로지를 설계합니다.
강의 형식
- 대화형 강의 및 토론.
- 수많은 연습과 문제 해결.
- 라이브 랩 환경에서의 실습 구현.
강의 맞춤화 옵션
- 이 강의를 위한 맞춤형 교육을 요청하려면 연락하여 조치를 취하세요.
미스트랄 커넥터 및 통합을 이용한 대화형 어시스턴트 제품화
14 HoursMistral AI는 기업 및 고객 맞춤형 워크플로우에 대화형 어시스턴트를 구축하고 통합할 수 있도록 하는 오픈 AI 플랫폼입니다.
이 강사는 초급부터 중급 수준의 제품 관리자, 풀스택 개발자, 통합 엔지니어를 대상으로 하며, Mistral 커넥터와 통합을 사용하여 대화형 어시스턴트를 설계, 통합하고 제품화하는 방법을 학습할 수 있습니다.
이 강좌를 마친 후, 참가자들은 다음과 같은 작업을 수행할 수 있게 됩니다:
- 기업 및 SaaS 커넥터와 Mistral 대화형 모델을 통합합니다.
- 근거 있는 응답을 위해 검색 강화 생성(RAG)을 구현합니다.
- 내부 및 외부 채팅 어시스턴트를 위한 UX 패턴을 설계합니다.
- 실제 사용 사례를 위해 어시스턴트를 제품 워크플로우에 배포합니다.
강좌 형식
- 상호작용형 강의 및 토론
- 실습 통합 연습
- 실시간 대화형 어시스턴트 개발
강좌 맞춤화 옵션
- 이 강좌에 대한 맞춤형 교육을 요청하려면, 맞춤화된 교육을 신청해 주십시오.
미스트랄 미디엄 3로 기업급 배포
14 HoursMistral Medium 3는 기업 환경에서 생산 환경에 적합한 고성능 다중 모달 대형 언어 모델입니다.
이 강의는 중간 수준에서 고급 수준의 AI/ML 엔지니어, 플랫폼 아키텍트, 그리고 MLOps 팀을 대상으로, 기업용 사례에 Mistral Medium 3를 배포, 최적화, 그리고 보안 강화하기 위한 온라인 또는 현장 교육을 제공합니다.
이 교육을 마치면 참가자들은 다음을 할 수 있습니다:
- API 및 자체 호스팅 옵션을 사용하여 Mistral Medium 3를 배포합니다.
- 추론 성능과 비용을 최적화합니다.
- Mistral Medium 3로 다중 모달 사용 사례를 구현합니다.
- 기업 환경에 대한 보안 및 준수 최선 방식을 적용합니다.
강의 형식
- 대화형 강의 및 토론.
- 많은 연습과 연습 문제.
- 라이브 랩 환경에서 직접 구현합니다.
강의 맞춤화 옵션
- 이 강의를 맞춤화된 교육으로 요청하려면, 맞춤화 교육을 요청하려면 문의해 주세요.
미스트랄을 통한 책임 있는 AI: 프라이버시, 데이터 주거권 및 기업 제어
14 HoursMistral AI는 보안, 준수, 책임 있는 AI 배포를 위한 기능이 포함된 오픈 및 기업 준비 AI 플랫폼입니다.
이 강사는 중간 수준의 준수 책임자, 보안 아키텍트, 법률/운영 스테이크홀더를 대상으로 하여, Mistral을 활용하여 개인정보 보호, 데이터 주재성, 기업 컨트롤 메커니즘을 통해 책임 있는 AI 관행을 구현하고자 하는 온라인 또는 현장 강의입니다.
이 강의를 통해 참가자는 다음을 수행할 수 있게 됩니다:
- Mistral 배포에 개인정보 보호 기법을 구현합니다.
- 규제 요구 사항을 충족하기 위해 데이터 주재성 전략을 적용합니다.
- RBAC, SSO 및 감사 로그와 같은 기업 수준 컨트롤을 설정합니다.
- 준수 정렬을 위한 벤더 및 배포 옵션을 평가합니다.
강의 형식
- 상호작용형 강의 및 토론.
- 준수 중심 사례 연구 및 연습.
- 기업 AI 컨트롤의 실습 구현.
강의 맞춤화 옵션
- 이 강의를 맞춤형으로 요청하려면 연락 주시기 바랍니다.
멀티모달 애플리케이션을 위한 Mistral 모델 (비전, OCR, & 문서 이해)
14 HoursMistral 모델은 오픈 소스 AI 기술을 기반으로 하여 언어와 시각 작업을 모두 지원하는 멀티모달 워크플로우로 확장되었습니다. 이를 통해 기업 및 연구용 응용 프로그램을 지원합니다.
이 온라인 또는 현장 강의는 중간 수준의 ML 연구자, 응용 엔지니어, 제품 팀을 대상으로 하여 Mistral 모델을 사용하여 OCR 및 문서 이해 파이프라인을 포함한 멀티모달 응용 프로그램을 구축하는 방법을 배웁니다.
이 교육을 통해 참가자는 다음과 같은 능력을 갖출 것입니다:
- 멀티모달 작업을 위한 Mistral 모델 설정 및 구성.
- OCR 워크플로우 구현 및 NLP 파이프라인과 통합.
- 기업용 사례를 위한 문서 이해 응용 프로그램 설계.
- 시각-텍스트 검색 및 보조 UI 기능 개발.
강의 형식
- 상호작용 강의 및 토론.
- 실습 코딩 연습.
- 멀티모달 파이프라인 실시간 구현.
강의 커스터마이징 옵션
- 이 강의를 맞춤형으로 신청하려면, 커스터마이징을 요청해 주세요.