연락처 정보

코스 개요

보안성이 뛰어난 로컬 AI의 기초 개념

  • 규제 환경에서 ‘로컬’ 및 ‘온프레미스’ AI가 의미하는 바
  • 민감한 업무 처리 시 클라우드 AI 대신 내부 배포의 장점
  • 기업 내 프라이빗 어시스턴트와 워크플로우 지원에 활용 가능한 사례들
  • 보안성이 확보된 로컬 AI 아키텍처의 핵심 구성 요소

Ollama 및 오픈 소스 모델 기초 이해

  • 로컬 개발 환경에서 Ollama가 수행하는 역할과 위치
  • 모델을 로컬에 다운로드하고 실행 및 관리하는 방법
  • 크기, 품질, 하드웨어 요구사항 및 라이선스 기준에 따른 모델 선택법
  • 비즈니스 목적에 부합하는 적절한 모델 선정 가이드라인

온프레미스 환경 준비 단계

  • 호스트, 워크스테이션 및 서버의 사전 설정 요소
  • 로컬 추론을 위한 Ollama 설치 및 초기 설정 과정
  • 컨테이너 기술과 기업 내부 개발 툴 연동 방법
  • API 접근성 확인 및 시스템 운영 준비도 검증

로컬 모델 활용 최적화 전략

  • 시스템 지침을 통해 프롬프트 실행 방식 및 출력 형태 조절하기
  • 기업 내 공통 작업에 반복적으로 사용할 수 있는 템플릿 관리법
  • 모델 버전 간 호환성 유지와 사내 아티팩트 관리 전략
  • CPU 및 GPU 환경에 적합한 기본 성능 최적화 기법

실무형 에이전틱 워크플로우 설계

  • 통제된 환경에서 ‘에이전틱’ 특성을 지닌 워크플로우의 정의와 요건
  • 기획, 툴 활용 및 응답 반복 과정을 포함한 간단한 패턴들
  • 내부 운영에 적합한 업무 중심형 어시스턴트 설계 방안
  • 인간의 검토 절차, 예외 대응 체계 및 오류 처리 구조 추가 방법

프라이빗 검색 기반 워크플로우 개발하기

  • 기업 내 지식 자원에 접근하는 검색 증강 생성(RAG)의 개념 이해
  • 문서를 청킹하고 인덱싱한 후 검색 가능하게 만드는 절차
  • Ollama 기반 애플리케이션과 로컬 벡터 스토어 연동 방법
  • 검색 방식 개선을 통한 답변의 정확도 및 관련성 향상 전략

보안, 거버넌스 및 컴플라이언스 적용 방안

  • 데이터 취급 범위 설정 및 개인정보 보호 기본 원칙
  • 접근 권한 관리, 로깅 체계와 감사 프로세스 구현 방법
  • 프롬프트 안정성 확보를 위한 출력 통제 수단과 안전 가이드라인
  • 규제 요건을 준수한 배포 및 운영 절차의 거버넌스 점검 사항들

기업 환경 내 시스템 통합 방안

  • 내부 API를 활용해 로컬 AI 역량을 외부 서비스와 연계하는 법
  • 다양한 기업 애플리케이션 및 서비스들과의 어시스턴트 통합 기술
  • 일반 사용자 지원, 대규모 배치 처리 및 자동화된 워크플로우 구현 전략
  • 해당 솔루션을 외부 네트워크와 분리한 내부망 운영 방식 유지법

로컬 AI 솔루션의 평가 체계 구축

  • 모델의 품질, 신뢰성 및 일관성을 측정하는 지표들
  • 기업 정책, 안전 요건에 부합하는 테스트 설계 방법
  • 다양한 모델 간 기업 환경 적합도 비교 분석 전략
  • 내부 개발 팀을 위한 개선 주기 체계화 방안 확립하기

실습 중심의 구현 워크숍

  • Ollama와 오픈 소스 모델을 결합해 프라이빗 어시스턴트 제작하기
  • 승인된 기업 문서를 활용한 검색 기능 추가 실습
  • 간단한 에이전틱 액션과 보안 규제 수칙 반영하기
  • 최종 배포 전략, 운영 가이드라인 및 거버넌스 항목 검토하기

도입 계획 수립 및 향후 로드맵 구성

  • 주요 설계 요소와 배포 결정 사항의 최종 점검
  • 규제 대상 AI 프로젝트에서 자주 발생하는 위험 요소 식별법
  • 시범 적용 시나리오 기획과 이해관계자 간 합의 도출 방법
  • 안전하게 로컬 AI를 확산해 나갈 장기 발전 계획 수립하기

요건

  • AI 개념 및 소프트웨어 개발에 대한 기초 지식
  • 명령줄 도구, 컨테이너 또는 로컬 개발 환경 사용 경험
  • 기본적인 스크립팅 또는 프로그래밍 능력

대상자

  • 기업 내부 인프라를 기반으로 프라이빗 AI 솔루션을 개발하는 개발자 및 기술 팀
  • 규제 산업에서 AI 활용을 지원하는 보안, 컴플라이언스 및 플랫폼 전문가
  • 금융, 의료, 정부, 방위 분야에서 온프레미스 AI 도입 가능성을 검토 중인 기술 리더들
 21 시간

참가자 수


참가자별 가격

예정된 코스

관련 카테고리