문의를 보내주셔서 감사합니다! 팀원이 곧 연락드리겠습니다.
예약을 보내주셔서 감사합니다! 저희 팀 멤버 중 한 분이 곧 연락드리겠습니다.
코스 개요
보안 로컬 AI의 기초
- 규제 환경에서 로컬 및 온프레미스 AI가 의미하는 바
- 민감한 워크로드를 위한 클라우드 AI와 내부 배포 비교
- 개인 비서 및 워크플로우 지원을 위한 일반적인 엔터프라이즈 사용 사례
- 보안 로컬 AI 아키텍처의 핵심 구성 요소
Ollama 및 오픈 모델 기초
- 로컬 개발 스택 내의 Ollama 역할
- 모델을 로컬에서 Pull, 실행 및 관리하기
- 크기, 품질, 하드웨어, 라이선스를 기준으로 모델 선택하기
- 모델 옵션을 실제 비즈니스 작업에 매칭하기
온프레미스 환경 준비
- 호스트, 워크스테이션 및 서버 준비
- 로컬 추론을 위한 Ollama 설치 및 구성
- 컨테이너 및 내부 개발 도구 활용
- API 액세스 및 기본 운영 준비 상태 확인
로컬 모델 효과적으로 활용하기
- 시스템 지시를 통해 프롬프트 실행 및 출력 조정
- 일관된 엔터프라이즈 작업을 위한 템플릿 재사용
- 모델 버전 및 내부 아티팩트 관리
- CPU 및 GPU 배포를 위한 기본 성능 튜닝
실용적인 에이전트 워크플로우 구축
- 통제된 환경에서 워크플로우가 에이전트가 되는 조건
- 계획, 도구 사용 및 응답 루프를 위한 간단한 패턴
- 내부 운영을 위한 작업 중심 어시스턴트 설계
- 인간 검토, 대체 로직 및 오류 처리 추가
개인 검색 워크플로우
- 내부 지식 액세스를 위한 검색 증강 생성(RAG) 기초
- 청킹, 인덱싱 및 검색을 위해 문서 준비
- 로컬 벡터 저장소를 Ollama 기반 애플리케이션에 연결
- 개선된 검색 패턴으로 관련성 및 답변 품질 향상
보안, 거버넌스 및 준수 실무
- 데이터 처리 경계 및 프라이버시 고려 사항
- 액세스 제어, 로깅 및 감사 지원
- 프롬프트 안전, 출력 제어 및 가드레일
- 규제된 배포 및 운영을 위한 거버넌스 체크포인트
엔터프라이즈 통합 패턴
- 내부 API를 통한 로컬 AI 기능 노출
- 어시스턴트를 내부 애플리케이션 및 서비스와 통합
- 어시스턴트, 배치 및 워크플로우 자동화 사용 사례 지원
- 통제된 네트워크 경계 내에서 솔루션 유지
로컬 AI 솔루션 평가
- 품질, 신뢰성 및 일관성 평가
- 비즈니스, 정책 및 안전 요구 사항에 대한 테스트
- 특정 엔터프라이즈 작업을 위한 모델 옵션 비교
- 내부 팀을 위한 실용적인 개선 주기 수립
실습 구현 랩
- Ollama 및 오픈 모델을 활용한 개인 비서 구축
- 승인된 내부 문서를 통한 검색 기능 추가
- 간단한 에이전트 작업 및 안전 통제 도입
- 배포, 운영 및 거버넌스 체크포인트 검토
도입 계획 및 다음 단계
- 주요 설계 및 배포 결정 사항 검토
- 규제 AI 프로젝트에서 발생하는 일반적인 함정 식별
- 파일럿 사용 사례 및 이해관계자 정렬 계획 수립
- 보안 로컬 AI 도입을 위한 로드맵 정의
요건
- AI 개념 및 소프트웨어 개발에 대한 기본 이해
- 명령줄 도구, 컨테이너 또는 로컬 개발 환경에 대한 친숙함
- 기본적인 스크립팅 또는 프로그래밍 경험
대상 고객
- 내부 인프라에서 개인용 AI 솔루션을 구축하는 개발자 및 기술 팀
- 규제 환경에서 AI를 지원하는 보안, 준수 및 플랫폼 전문가
- 온프레미스 AI 도입을 평가 중인 금융, 의료, 정부 및 국방 분야의 기술 리더
21 시간