코스 개요

기초: 에이전트 AI 위협 모델

  • 에이전트 위협 유형: 오남용, 권한 상승, 데이터 누출, 공급망 위험
  • 자율형 에이전트에 특화된 적대자 프로필과 공격 능력
  • 에이전트용 자산, 신뢰 경계, 중요 제어 포인트 매핑

거버넌스, 정책 및 리스크 관리

  • 에이전트 시스템을 위한 거버넌스 프레임워크(역할, 책임, 승인 게이트)
  • 정책 설계: 적절한 사용, 권한 상승 규칙, 데이터 처리, 감사 가능성
  • 컴플라이언스 고려 사항 및 감사용 증거 수집

비인간 신원 & 인증

  • 에이전트용 신원 설계: 서비스 계정, JWTs, 단기 자격 증명
  • 최소 권한 접근 패턴 및 즉시 자격 증명
  • 신원 수명 주기, 회전, 위임, 취소 전략

액세스 제어, 비밀 관리, 데이터 보호

  • 세분화된 액세스 제어 모델 및 능력 기반 패턴
  • 비밀 관리, 전송 중/정지 상태에서의 암호화, 데이터 최소화
  • 에이전트의 비인가 접근으로부터 민감한 지식 원천 및 PII 보호

관찰성, 감사, 사고 대응

  • 에이전트 행동을 위한 텔레메트리 설계: 의도 추적, 명령 로그, 출처
  • SIEM 통합, 경고 임계값, 디지털 증거 대응 준비
  • 에이전트 관련 사고 및 격리에 대한 가이드라인 및 실행 계획

적대적 시스템 테스트

  • 적군 테스트 운용 계획: 범위, 참여 규칙, 안전한 실패 전환
  • 적대적 기법: 프롬프트 주입, 도구 오남용, 사고-사고 유발, API 남용
  • 제어된 공격 수행 및 노출 및 영향 측정

강화 및 완화 조치

  • 엔지니어링 제어: 응답 속도 제한, 능력 게이팅, 샌드박싱
  • 정책 및 오케스트레이션 제어: 승인 흐름, 인간 개입, 거버넌스 연동
  • 모델 및 프롬프트 레벨 방어: 입력 유효성 검사, 표준화, 출력 필터

안전한 에이전트 배포 운영화

  • 배포 패턴: 스테이징, 캐너리, 단계적 롤아웃
  • 변경 제어, 테스트 파이프라인, 사전 배포 안전 검사
  • 보안, 법무, 제품, 운영 부서 간 협력: 가이드라인 및 실행 계획

종합 프로젝트: 적군/청군 훈련

  • 샌드박스 환경에서 시뮬레이션된 적군 공격 실행
  • 청군으로서 제어 및 텔레메트리를 사용해 방어, 탐지, 복구
  • 결과 발표, 복구 계획, 정책 업데이트

요약 및 다음 단계

요건

  • 보안 엔지니어링, 시스템 관리, 클라우드 운영에 대한 견고한 배경 지식
  • AI/ML 개념 및 대규모 언어 모델(LMM) 행동에 대한 이해력
  • 신원 및 접근 관리(IAM), 보안 시스템 설계 경험

대상자

  • 보안 엔지니어와 적군 테스트 담당자
  • AI 운영 및 플랫폼 엔지니어
  • 컴플라이언스 담당자 및 리스크 관리자
  • 에이전트 배포를 책임진 엔지니어링 팀장
 21 시간

참가자 수


참가자별 가격

회원 평가 (1)

예정된 코스

관련 카테고리