연락처 정보

코스 개요

Ollama를 활용한 LLM 배포 기초 개론

  • Ollama가 제공하는 핵심 기능 소개
  • 로컬 환경에서 AI 모델을 배포할 때의 장점
  • 클라우드 기반 AI 호스팅 서비스와의 비교 분석

배포 환경 구축 방법

  • Ollama 및 필요한 종속 요소 설치 방법
  • 하드웨어 사양 조정 및 GPU 가속 환경 구성
  • 확장 가능한 배포를 위해 Ollama를 Docker로 패키징하기

Ollama를 이용한 LLM 배포 과정

  • AI 모델 로드 및 관리 방법
  • Llama 3, DeepSeek, Mistral 등 다양한 모델의 배포 방안
  • AI 모델 접근을 위한 API 및 엔드포인트 생성 방법

LLM 성능 최적화 기법

  • 모델 효율성을 극대화하기 위한 미세 조정 방법
  • 지연 시간 감소 및 응답 속도 향상 전략
  • 메모리와 시스템 자원의 효과적 할당 방안

Ollama를 AI 워크플로우에 통합하기

  • 애플리케이션 및 서비스들과 Ollama 연동 방법
  • AI 기반 프로세스 자동화 실현 전략
  • 엣지 컴퓨팅 환경에서의 Ollama 활용 방안

모니터링 및 유지관리 절차

  • 성능 추적과 문제 진단 기술
  • AI 모델 업데이트 및 지속적인 관리 방법
  • AI 배포 환경에서의 보안 및 규정 준수 사항 확인 방법

대규모 AI 모델 배포 확장 전략

  • 고부하 상황에 대응하기 위한 최적화 가이드라인
  • 기업 환경에서의 Ollama 확장 구축 방안
  • 로컬 AI 모델 배포 분야의 미래 발전 동향 분석

요약 및 향후 실행 계획 안내

요건

  • 머신러닝 및 AI 모델에 대한 기본 지식
  • 명령줄 인터페이스와 스크립팅 활용 경험
  • 로컬, 엣지, 클라우드 환경에서의 배포 개념에 대한 이해

수강 대상

  • 로컬 및 클라우드 기반 AI 시스템 최적화를 담당하는 AI 엔지니어들
  • LLM을 배포하고 미세 조정하는 머신러닝 실무자들
  • AI 모델 통합 업무를 책임지는 DevOps 전문가들
 14 시간

참가자 수


참가자별 가격

예정된 코스

관련 카테고리