Securing AI Models: Threats, Attacks, and Defenses 교육 과정

이 강사는 온라인 또는 현장에서 진행하는 실습 중심의 AI Go 관리, 준수 및 보안에 대한 중간 수준 기업 리더를 위한 교육 과정입니다. 이는 EU AI법, GDPR, ISO/IEC 42001 및 미국 AI 행정명령과 같은 글로벌 프레임워크에 따라 AI 시스템을 책임감 있게 관리하고 보호하는 방법을 이해하고자 하는 분들에게 적합합니다.

이 교육 과정을 통해 참가자는 다음을 할 수 있게 됩니다:

• AI를 다양한 부서에서 사용하는 법적, 윤리적, 규제적 위험을 이해합니다.
• 주요 AI 관리 프레임워크(EU AI법, NIST AI RMF, ISO/IEC 42001)를 해석하고 적용합니다.
• AI 배포에 대한 보안, 감사 및 감독 정책을 수립합니다.
• 타사 및 내부 AI 시스템에 대한 조달 및 사용 지침을 개발합니다.

Artificial Intelligence (AI)는 정부 기관과 부처에 대한 운영 위험의 새로운 차원, 통치 문제, 그리고 사이버 보안 노출을 도입합니다.

이 인스트럭터 주도형 라이브 교육(온라인 또는 현장)은 AI에 대한 경험이 제한적인 공공 부문 IT 및 위험 전문가들이 정부나 규제 환경에서 AI 시스템을 평가, 모니터링 및 보안하는 방법을 이해하고자 할 때 제공됩니다.

이 교육을 마치면 참가자는 다음을 할 수 있습니다:

• AI 시스템과 관련된 편향, 예측 불가능성, 모델 드리프트와 같은 주요 위험 개념을 해석합니다.
• NIST AI RMF 및 ISO/IEC 42001과 같은 AI 특정 통치 및 감사 프레임워크를 적용합니다.
• AI 모델 및 데이터 파이프라인을 타겟으로 하는 사이버 보안 위협을 인식합니다.
• AI 배포에 대한 부서 간 위험 관리 계획 및 정책 일치를 설정합니다.

강의 형식

• 공공 부문 사용 사례에 대한 상호작용 강의 및 논의
• AI 통치 프레임워크 연습 및 정책 매핑
• 시나리오 기반 위협 모델링 및 위험 평가

강의 맞춤화 옵션

• 이 강의에 대한 맞춤형 교육을 요청하려면, 문의하여 배열하십시오.

이 강사는 온라인 또는 현장에서 초급에서 중급 수준의 IT 전문가를 대상으로 AI TRiSM을 이해하고 조직 내에서 구현하는 것을 목표로 합니다.

이 교육을 통해 참가자는 다음과 같은 능력을 갖출 것입니다.

• AI 신뢰, 위험, 보안 관리의 주요 개념과 중요성을 이해합니다.
• AI 시스템과 관련된 위험을 식별하고 완화합니다.
• AI에 대한 보안 모범 사례를 구현합니다.
• AI에 대한 규제 준수와 윤리적 고려 사항을 이해합니다.
• 효과적인 AI 통치와 관리를 위한 전략을 개발합니다.

이 강사는 온라인 또는 현장에서 직접 지도하는 라이브 교육과정으로, 중간 수준에서 고급 수준의 AI 개발자, 아키텍트, 제품 관리자가 LLM 기반 애플리케이션과 관련된 위험, 예를 들어 프롬프트 주입, 데이터 유출, 필터링되지 않은 출력을 식별하고 완화할 수 있도록 설계되었습니다. 입력 유효성 검사, 인간 개입, 출력 보호 대책을 포함하여 보안 대책을 통합합니다.

이 교육을 마치면 참가자는 다음을 할 수 있게 됩니다:

• LLM 기반 시스템의 핵심 취약점을 이해합니다.
• LLM 앱 아키텍처에 안전한 디자인 원칙을 적용합니다.
• Guardrails AI와 LangChain와 같은 도구를 검증, 필터링, 안전성 유지에 사용합니다.
• 샌드박싱, 레드 팀링, 인간 개입 검토와 같은 기법을 생산 수준 파이프라인에 통합합니다.

이 온라인 또는 현장 강사 주도의 실시간 교육은 금융, 데이터 관리, 컨설팅 등 고규제 산업에서 AI 모델과 시스템의 보안 취약점을 이해하고 해결하려는 중간 수준의 AI 및 사이버 보안 전문가를 대상으로 합니다.

이 교육을 마친 후, 참가자는 다음을 할 수 있게 됩니다.

• AI 시스템을 대상으로 하는 적대적 공격 유형과 이를 방어하기 위한 방법에 대해 이해할 수 있습니다.
• 머신러닝 파이프라인을 보안하기 위해 모델 강화 기술을 구현할 수 있습니다.
• 머신러닝 모델의 데이터 보안과 무결성을 보장할 수 있습니다.
• AI 보안과 관련된 규제 준수 요구 사항을 탐색할 수 있습니다.

이 강사는 온라인 또는 현장에서 초보자 수준의 IT 보안, 위험 및 준수 전문가를 대상으로 하여 AI 보안 기본 개념, 위협 벡터 및 NIST AI RMF 및 ISO/IEC 42001과 같은 글로벌 프레임워크를 이해하고자 합니다.

이 교육을 마친 후 참가자들은 다음을 할 수 있습니다:

• AI 시스템이 도입하는 고유한 보안 위험을 이해합니다.
• 적대적 공격, 데이터 오염, 모델 역추적과 같은 위협 벡터를 식별합니다.
• NIST AI Risk Management 프레임워크와 같은 기초 통치 모델을 적용합니다.
• AI 사용을 신흥 표준, 준수 가이드라인 및 윤리 원칙과 일치시킵니다.

최신 OWASP GenAI Security Project 가이드에 따라, 참가자들은 실습과 실제 시나리오를 통해 AI 특화 위협을 식별, 평가 및 완화하는 방법을 학습합니다.

이 강사는 온라인 또는 현장에서 진행하는 실시간 교육으로, 민감한 데이터를 보호하면서 동시에 분산형 또는 제한된 환경에서 고급 인공지능 기능을 가능하게 하는 분야인 프라이버시-프리저빙 Machine Learning에 중점을 둡니다.

이 실시간 교육은, 머신러닝 파이프라인의 실제 시나리오에서 federated learning, secure multiparty computation, homomorphic encryption, 그리고 differential privacy와 같은 기술을 구현하고 평가하고자 하는 고급 수준의 전문가를 대상으로 합니다.

이 교육을 마친 후 참가자는 다음과 같은 능력을 갖게 됩니다:

• 머신러닝에서의 주요 프라이버시 보전 기술을 이해하고 비교합니다.
• 오픈 소스 프레임워크를 사용하여 federated learning 시스템을 구현합니다.
• 안전한 데이터 공유와 모델 학습을 위한 differential privacy를 적용합니다.
• 암호화 및 보안 계산 기술을 사용하여 모델 입력과 출력을 보호합니다.

이 강사는 온라인 또는 오프라인에서 진행되는 라이브 강의를 통해 인공지능 시스템에 대한 공격을 시뮬레이션하고 취약점을 발견하며, 배포된 AI 모델의 강도를 높이는 것을 목표로 하는 고급 보안 전문가와 ML 전문가를 대상으로 합니다.

이 강의를 마친 후, 참가자들은 다음을 할 수 있습니다:

• 머신 러닝 모델에 대한 실제 위협을 시뮬레이션합니다.
• 모델의 강도를 테스트하기 위해 적대적 예제를 생성합니다.
• AI API와 파이프라인의 공격 표면을 평가합니다.
• AI 배포 환경에 대한 레드 팀 전략을 설계합니다.