문의를 보내주셔서 감사합니다! 팀원이 곧 연락드리겠습니다.
예약을 보내주셔서 감사합니다! 저희 팀 멤버 중 한 분이 곧 연락드리겠습니다.
코스 개요
기초: 에이전틱 AI의 위협 모델 분석
- 오용 가능성, 권한 확대, 데이터 유출 및 공급망 취약점 등 에이전틱 시스템에 내재된 주요 위협 요소
- 자율형 에이전트를 겨냥하는 공격자의 성향과 역량 분석
- 에이전트 관련 주요 자산, 신뢰 경계선 및 핵심 제어 지점 파악 방법
거버넌스, 정책 수립 및 위험 관리
- 역할 분담, 책임 범위 및 승인 절차 등 에이전틱 시스템에 적용되는 거버넌스 프레임워크
- 허용 가능한 사용 범위, 권한 확대 제어 규칙, 데이터 관리 및 감사 기준을 포함한 정책 설계 방안
- 규정 준수 측면에서 고려해야 할 사항 및 감사 시 필요한 증거 확보 방법
에이전트용 비인간 신원 및 인증 기법
- 서비스 계정, JWT 토큰 및 일시적 자격 증명을 활용한 에이전트 식별 방법
- 최소 권한 원칙에 따른 접근 설계와 필요 시점에만 인증 정보를 부여하는 방식
- 신원 데이터의 생성부터 폐기까지 전 주기를 관리하고 위임, 회수 절차를 정립하는 방법
접근 제어, 보안 정보 처리 및 데이터 보호 기법
- 에이전트에게 적합한 세분화된 접근 통제 모델 및 역량 기반 운영 원칙
- 보안 정보 보호를 위한 암호화 방식, 데이터 축소 전략 및 민감정보 관리법
- 에이전트가 무단으로 접근하지 못하도록 중요한 지식 자산 및 개인 식별 정보 보호 수단
관측성 구현, 감사 체계 및 사고 대응 방안
- 에이전트의 의도 파악을 위한 추적 로그 생성, 명령 실행 이력 기록 등 모니터링 체계 구성법
- 보안 정보 관리 시스템(SIEM) 연동 및 사고 감지 임계치 설정과 포렌식 대비 준비 방법
- 에이전트 관련 문제 발생 시 신속하게 대응할 수 있는 표준 운영 절차 정립법
에이전틱 시스템을 위한 레드팀 연습 방법론
- 범위 설정, 협약 사항 및 안전한 오류 처리 체계 등 레드팀 활동 계획 수립법
- 프롬프트 주입 공격, 툴 남용 유도 기법, 논리 흐름 조작 기술 및 API 악용 방안 분석
- 통제된 환경에서 실제 공격을 수행하고 발생 가능한 노출 및 영향 정도 측정하는 방법
시스템 보안 강화를 위한 대응책과 위협 방지 기법
- 응답 빈도 제한, 역량 가이드라인 적용 및 샌드박스 환경 사용 등 엔지니어링 통제 방안
- 인간 개입 요구 사항 반영, 승인 절차 설계 및 거버넌스 지표 구현을 포함한 정책 운용 방법
- 입력값 검증, 형식 표준화 조치 및 출력 결과의 필터링과 같은 모델 및 프롬프트 수준 보안 처리법
안전한 에이전트 배포 프로세스 실행 전략
- 테스트 환경 구축, 카나리아 배포 방식 및 점진적 확장 시나리오 구성법
- 변경 사항 관리를 위한 절차 수립, 자동화된 검증 단계 설계 및 배포 전 안전성 평가 체계
- 보안, 법규 준수, 제품 관리 및 운영 측면의 연합적 협력을 위한 다분야 통제 체계 정립법
종합 실습: 레드팀과 블루팀 공동 활동
- 가상 환경 내에서 레드팀 측면의 모의 공격을 수행하고 기록하는 방법
- 블루팀으로서 설정된 제어 장치와 실시간 관측 데이터를 활용해 대응 및 해결책 마련 방안
- 분석 결과 정리, 문제 해결 계획 수립 및 관련 보안 정책 개선 제안 내용 발표법
요약 및 향후 발전 방향 설명
요건
- 보안 엔지니어링, 시스템 관리 또는 클라우드 운영 분야에 대한 충분한 지식
- AI/ML 개념 및 대규모 언어 모델(LLM)의 작동 원리에 대한 기초 이해
- 신원 및 접근 관리(IAM), 그리고 안전한 시스템 설계 경험이 필요합니다.
대상 수강생
- 보안 엔지니어 및 레드팀 실무자
- AI 운영 및 플랫폼 개발 담당자
- 규정 준수 관리자 및 위험 관리 전문가
- 에이전트 시스템 배포를 책임지는 엔지니어링 리더들
21 시간
