Red Teaming AI Systems: Offensive Security for ML Models 교육 과정

이 강사는 지도하는 실시간 교육과정은 온라인 또는 현장에서 진행되며, 중간 수준의 기업 리더를 대상으로 하며, EU AI Act, GDPR, ISO/IEC 42001 및 미국 AI에 대한 행정 명령과 같은 새로운 글로벌 프레임워크에 부합하면서 AI 시스템을 책임감 있게 관리하고 보안 유지하는 방법을 이해하고자 하는 분들을 대상으로 합니다.

이 교육과정을 마치면 참가자들은 다음을 할 수 있게 됩니다:

• 부서 전체에서 AI를 사용하는 법적, 윤리적, 규제상의 위험을 이해합니다.
• 주요 AI 관리 프레임워크(EU AI Act, NIST AI RMF, ISO/IEC 42001)를 해석하고 적용합니다.
• 기업 AI 배포를 위한 보안, 감사 및 감독 정책을 설정합니다.
• 타사 및 내부 AI 시스템의 조달 및 사용 지침을 개발합니다.

이 강사는 온라인 또는 현장에서 직접 지도하는 라이브 교육과정으로, 중간 수준에서 고급 수준의 AI 개발자, 아키텍트, 제품 관리자가 LLM 기반 애플리케이션과 관련된 위험, 예를 들어 프롬프트 주입, 데이터 유출, 필터링되지 않은 출력을 식별하고 완화할 수 있도록 설계되었습니다. 입력 유효성 검사, 인간 개입, 출력 보호 대책을 포함하여 보안 대책을 통합합니다.

이 교육을 마치면 참가자는 다음을 할 수 있게 됩니다:

• LLM 기반 시스템의 핵심 취약점을 이해합니다.
• LLM 앱 아키텍처에 안전한 디자인 원칙을 적용합니다.
• Guardrails AI와 LangChain와 같은 도구를 검증, 필터링, 안전성 유지에 사용합니다.
• 샌드박싱, 레드 팀링, 인간 개입 검토와 같은 기법을 생산 수준 파이프라인에 통합합니다.

이 강사는 대한민국 (온라인 또는 현장)에서 제공하는 이 강사는 AI 보안 개념, 위협 벡터 및 NIST AI RMF 및 ISO/IEC 42001과 같은 글로벌 프레임워크를 이해하고자 하는 초급 수준의 IT 보안, 위험 관리 및 준수 전문가를 대상으로 합니다.

이 교육을 마친 후, 참가자는 다음과 같은 능력을 갖추게 됩니다:

• AI 시스템이 도입하는 고유한 보안 위험을 이해합니다.
• 적대적 공격, 데이터 오염 및 모델 역전과 같은 위협 벡터를 식별합니다.
• NIST AI Risk Management 프레임워크와 같은 기본 통치 모델을 적용합니다.
• AI 사용을 신흥 표준, 준수 지침 및 윤리 원칙과 일치시킵니다.

이 강사는 온라인 또는 오프라인에서 진행되는 이 강의는 민감 데이터 환경에서의 동기 및 위험 기술의 개요 기술 및 규제 고려 사항 (예: GDPR, HIPAA) Federated Learning 연방 학습의 개념 및 아키텍처 클라이언트-서버 동기화 및 집계 PySyft 및 Flower를 사용하여 구현 차등 프라이버시 차등 프라이버시의 수학 DP를 데이터 쿼리와 모델 학습에 적용 Opacus 및 TensorFlow 프라이버시 사용 다중 당사자 계산(SMPC) SMPC 프로토콜 및 사용 사례 암호화 기반 vs. 비밀 공유 접근 방식 CrypTen 또는 PySyft를 사용하여 안전 계산 워크플로우 동형 암호화 완전 동형 암호화 vs. 부분 동형 암호화 민감 작업에 대한 암호화 추론 TenSEAL 및 Microsoft SEAL과 함께 실습 응용 프로그램 및 산업 사례 연구 의료에서의 프라이버시: 의료 AI를 위한 연방 학습 금융에서의 안전 협업: 위험 모델 및 규정 준수 방위 및 정부 사례 요약 및 다음 단계 Machine Learning 프라이버시 보호는 민감 데이터를 보호하면서도 분산형 또는 제한된 환경에서 고급 AI 기능을 가능하게 하는 분야입니다. 이 강사는 온라인 또는 오프라인에서 진행되는 이 강의는 민감 데이터 환경에서의 동기 및 위험 기술의 개요 기술 및 규제 고려 사항 (예: GDPR, HIPAA) Federated Learning 연방 학습의 개념 및 아키텍처 클라이언트-서버 동기화 및 집계 PySyft 및 Flower를 사용하여 구현 차등 프라이버시 차등 프라이버시의 수학 DP를 데이터 쿼리와 모델 학습에 적용 Opacus 및 TensorFlow 프라이버시 사용 다중 당사자 계산(SMPC) SMPC 프로토콜 및 사용 사례 암호화 기반 vs. 비밀 공유 접근 방식 CrypTen 또는 PySyft를 사용하여 안전 계산 워크플로우 동형 암호화 완전 동형 암호화 vs. 부분 동형 암호화 민감 작업에 대한 암호화 추론 TenSEAL 및 Microsoft SEAL과 함께 실습 응용 프로그램 및 산업 사례 연구 의료에서의 프라이버시: 의료 AI를 위한 연방 학습 금융에서의 안전 협업: 위험 모델 및 규정 준수 방위 및 정부 사례 요약 및 다음 단계 강의 형식 상호작용 강의 및 토론. 수많은 연습 및 실습. 실제 실험실 환경에서 직접 구현. 강의 맞춤화 옵션 이 강의를 위한 맞춤형 교육을 요청하려면 연락하여 문의하십시오. 기계 학습 원칙에 대한 이해 Python 및 ML 라이브러리 (예: PyTorch, TensorFlow) 경험 데이터 프라이버시 또는 사이버 보안 개념에 익숙함이 도움이 됩니다. 강의 대상 AI 연구자 데이터 보호 및 프라이버시 준수 팀 규제 산업에서 근무하는 보안 엔지니어 이 강사는 온라인 또는 오프라인에서 진행되는 이 강의는 민감 데이터 환경에서의 동기 및 위험 기술의 개요 기술 및 규제 고려 사항 (예: GDPR, HIPAA) Federated Learning 연방 학습의 개념 및 아키텍처 클라이언트-서버 동기화 및 집계 PySyft 및 Flower를 사용하여 구현 차등 프라이버시 차등 프라이버시의 수학 DP를 데이터 쿼리와 모델 학습에 적용 Opacus 및 TensorFlow 프라이버시 사용 다중 당사자 계산(SMPC) SMPC 프로토콜 및 사용 사례 암호화 기반 vs. 비밀 공유 접근 방식 CrypTen 또는 PySyft를 사용하여 안전 계산 워크플로우 동형 암호화 완전 동형 암호화 vs. 부분 동형 암호화 민감 작업에 대한 암호화 추론 TenSEAL 및 Microsoft SEAL과 함께 실습 응용 프로그램 및 산업 사례 연구 의료에서의 프라이버시: 의료 AI를 위한 연방 학습 금융에서의 안전 협업: 위험 모델 및 규정 준수 방위 및 정부 사례 요약 및 다음 단계

이 강사는 온라인 또는 현장(온사이트)에서 직접 진행되는, 중간 수준의 엔지니어와 보안 전문가를 대상으로 하는 라이브 교육과정입니다. 이들은 변경, 데이터 유출, 적대적 입력 및 물리적 공격과 같은 위협으로부터 엣지에 배포된 AI 모델을 보호하고자 합니다.

이 교육을 마치면 참가자들은 다음을 할 수 있게 됩니다:

• 엣지 AI 배포에서 보안 위험을 식별하고 평가합니다.
• 변경 저항 및 암호화 추론 기법을 적용합니다.
• 엣지에 배포된 모델을 강화하고 데이터 파이프라인을 보호합니다.
• 내장 및 제한된 시스템에 특화된 위협 완화 전략을 구현합니다.

이 강사는 온라인 또는 현장에서 직접 지도하는 라이브 교육으로, 중간 수준의 머신러닝 및 사이버 보안 전문가들이 개념적 프레임워크와 로버스트 트레이닝 및 차등 프라이버시와 같은 실습 방어 기법을 사용하여 AI 모델에 대한 새로운 위협을 이해하고 완화하는 방법을 배울 수 있도록 목표로 합니다.

이 교육을 마치면 참가자는 다음과 같은 능력을 갖게 됩니다:

• 적대적 공격, 역추적, 그리고 오염과 같은 AI 특화 위협을 식별하고 분류할 수 있습니다.
• Adversarial Robustness Toolbox (ART)와 같은 도구를 사용하여 공격을 시뮬레이션하고 모델을 테스트할 수 있습니다.
• 적대적 트레이닝, 노이즈 주입, 그리고 프라이버시 보존 기법과 같은 실용적인 방어 기법을 적용할 수 있습니다.
• 생산 환경에서 위협 인식 모델 평가 전략을 설계할 수 있습니다.