연락처 정보

코스 개요

오프라인 EXO 배포 방법

  • EXO_OFFLINE 설정을 통해 런타임 시 인터넷 접근 차단하기
  • 신뢰할 수 있는 내부 미러 서버에서 EXO_MODELS_READ_ONLY_DIRS로 모델 사전 로드하기
  • SHA-256 해시 값 및 서명된 모델 설명서를 활용해 모델 가중치 무결성 확인하기
  • HuggingFace에 의존하지 않고 격리된 네트워크 환경에서 EXO 실행하기

대시보드 및 API 접근 제어 방법

  • TLS 종단 처리를 위해 nginx, Caddy와 같은 리버스 프록시 설치 및 구성하기
  • EXO 대시보드 및 REST API에 대해 역할 기반 접근 통제 정책 적용하기
  • macOS 키체인 또는 Linux의 pass를 활용해 API 인증 시 필요한 보안 정보 저장하기
  • 관리자 전용 엔드포인트에 대해 특정 소스 IP 범위로만 접근 허용 설정하기

클러스터 격리 및 네트워크 보안 방법

  • EXO_LIBP2P_NAMESPACE와 VLAN을 활용해 EXO 클러스터 분리 설정하기
  • macOS 애플리케이션 방화벽, iptables, nftables 등으로 EXO 포트 접근 제어하기
  • 무단 장치 탐지 및 불법 노드 생성 시도를 차단하는 대책 마련하기
  • RDMA 기능을 사용할 수 없는 환경에서 노드 간 통신에 대한 libp2p 암호화 적용하기

모델 거버넌스 및 출처 관리 방법

  • 승인된 모델 목록과 메타데이터를 담은 내부 모델 레지스트리 구축하기
  • 원본 체크포인트와 함께 4비트·8비트 양자화 가중치에 태그 및 버전 정보 부여하기
  • HuggingFace의 특정 저장소 또는 내부 아티팩트만 로드되도록 정책 적용하기
  • 모델 출처, 라이선스 조건, 사용 허가 기준 등을 상세히 문서화하기

감사 로그 작성 및 컴플라이언스 유지 방법

  • EXO 로그 데이터를 SIEM 또는 WORM 스토리지에 전달해 변조 불가능한 감사 기록 확보하기
  • API 호출 로그와 사용자 신원 및 시간 정보 간의 상관관계 분석하기
  • 모델 인스턴스 생성·삭제 이력 및 추론 요청 내역을 체계적으로 기록하기
  • 내외부 감사관들을 위한 정기 컴플라이언스 보고서 작성하기

위협 모델링 및 사고 대응 방안

  • 모델 출력을 통한 데이터 유출, 프롬프트 주입 공격, 사이드 채널 정보 노출 등 잠재적 위협 파악하기
  • 프롬프트 모니터링 시스템 및 콘텐츠 필터링 프로세스 구축하기
  • 클러스터 침해 시 대응 방안을 담은 사고 처리 절차서 작성하기
  • 문제가 발생한 노드 격리 후 포렌식용 로그를 보존하고 클린 환경으로 재구축하기

물리적 보안 및 하드웨어 보호 전략

  • 무단 RDMA 케이블 접속을 방지하도록 Thunderbolt 포트 보안 설정하기
  • 가능한 환경에서는 Apple Silicon 기반의 안전한 격리 공간 및 하드웨어 인증 기능 활용하기
  • 클러스터에 속하는 Mac 기기들과 공유 스토리지 시설에 대한 물리적 접근 제어 강화하기
  • 하드웨어 수명 주기 및 폐기 절차를 상세히 문서화하여 관리하기

규제 요건 대응 방안

  • EXO 배포 환경이 GDPR, HIPAA, SOC 2 등 주요 규제 기준을 준수하도록 설계하기
  • 모든 추론 작업을 온프레미스 환경에서만 수행함으로써 데이터 현지화 조건 만족시키기
  • MLX, EXO, 모델 가중치 등 관련 공급망의 위험 요소를 명확히 기록 및 평가하기
  • EU AI Act 제53조와 같은 최신 AI 거버넌스 프레임워크에 대한 대비 방안 마련하기

요건

  • EXO 또는 기타 로컬 LLM 실행 환경에 대한 경험 필요
  • Unix 파일 시스템 권한 설정 및 네트워크 ACL 이해 필수
  • TLS/SSL 인증서 관리와 암호화 기본 원리에 대한 지식 필요

대상 수강생

  • 보안 엔지니어들
  • 컴플라이언스 담당자들
  • 민감 정보를 다루는 AI 인프라 관리자들
 14 시간

참가자 수


참가자별 가격

회원 평가 (1)

예정된 코스

관련 카테고리