문의를 보내주셔서 감사합니다! 팀원이 곧 연락드리겠습니다.
예약을 보내주셔서 감사합니다! 저희 팀 멤버 중 한 분이 곧 연락드리겠습니다.
코스 개요
기초: 에이전트 AI 위협 모델
- 에이전트 위협 유형: 오남용, 권한 상승, 데이터 누출, 공급망 위험
- 자율형 에이전트에 특화된 적대자 프로필과 공격 능력
- 에이전트용 자산, 신뢰 경계, 중요 제어 포인트 매핑
거버넌스, 정책 및 리스크 관리
- 에이전트 시스템을 위한 거버넌스 프레임워크(역할, 책임, 승인 게이트)
- 정책 설계: 적절한 사용, 권한 상승 규칙, 데이터 처리, 감사 가능성
- 컴플라이언스 고려 사항 및 감사용 증거 수집
비인간 신원 & 인증
- 에이전트용 신원 설계: 서비스 계정, JWTs, 단기 자격 증명
- 최소 권한 접근 패턴 및 즉시 자격 증명
- 신원 수명 주기, 회전, 위임, 취소 전략
액세스 제어, 비밀 관리, 데이터 보호
- 세분화된 액세스 제어 모델 및 능력 기반 패턴
- 비밀 관리, 전송 중/정지 상태에서의 암호화, 데이터 최소화
- 에이전트의 비인가 접근으로부터 민감한 지식 원천 및 PII 보호
관찰성, 감사, 사고 대응
- 에이전트 행동을 위한 텔레메트리 설계: 의도 추적, 명령 로그, 출처
- SIEM 통합, 경고 임계값, 디지털 증거 대응 준비
- 에이전트 관련 사고 및 격리에 대한 가이드라인 및 실행 계획
적대적 시스템 테스트
- 적군 테스트 운용 계획: 범위, 참여 규칙, 안전한 실패 전환
- 적대적 기법: 프롬프트 주입, 도구 오남용, 사고-사고 유발, API 남용
- 제어된 공격 수행 및 노출 및 영향 측정
강화 및 완화 조치
- 엔지니어링 제어: 응답 속도 제한, 능력 게이팅, 샌드박싱
- 정책 및 오케스트레이션 제어: 승인 흐름, 인간 개입, 거버넌스 연동
- 모델 및 프롬프트 레벨 방어: 입력 유효성 검사, 표준화, 출력 필터
안전한 에이전트 배포 운영화
- 배포 패턴: 스테이징, 캐너리, 단계적 롤아웃
- 변경 제어, 테스트 파이프라인, 사전 배포 안전 검사
- 보안, 법무, 제품, 운영 부서 간 협력: 가이드라인 및 실행 계획
종합 프로젝트: 적군/청군 훈련
- 샌드박스 환경에서 시뮬레이션된 적군 공격 실행
- 청군으로서 제어 및 텔레메트리를 사용해 방어, 탐지, 복구
- 결과 발표, 복구 계획, 정책 업데이트
요약 및 다음 단계
요건
- 보안 엔지니어링, 시스템 관리, 클라우드 운영에 대한 견고한 배경 지식
- AI/ML 개념 및 대규모 언어 모델(LMM) 행동에 대한 이해력
- 신원 및 접근 관리(IAM), 보안 시스템 설계 경험
대상자
- 보안 엔지니어와 적군 테스트 담당자
- AI 운영 및 플랫폼 엔지니어
- 컴플라이언스 담당자 및 리스크 관리자
- 에이전트 배포를 책임진 엔지니어링 팀장
21 시간
회원 평가 (1)
그의 전문적인 지식과 그것을 우리 앞에서 발표한 방식
Miroslav Nachev - PUBLIC COURSE
코스 - Cybersecurity in AI Systems
기계 번역됨