Securing AI Models: Threats, Attacks, and Defenses 교육 과정

이 강사는 지도하는 실시간 교육과정은 온라인 또는 현장에서 진행되며, 중간 수준의 기업 리더를 대상으로 하며, EU AI Act, GDPR, ISO/IEC 42001 및 미국 AI에 대한 행정 명령과 같은 새로운 글로벌 프레임워크에 부합하면서 AI 시스템을 책임감 있게 관리하고 보안 유지하는 방법을 이해하고자 하는 분들을 대상으로 합니다.

이 교육과정을 마치면 참가자들은 다음을 할 수 있게 됩니다:

• 부서 전체에서 AI를 사용하는 법적, 윤리적, 규제상의 위험을 이해합니다.
• 주요 AI 관리 프레임워크(EU AI Act, NIST AI RMF, ISO/IEC 42001)를 해석하고 적용합니다.
• 기업 AI 배포를 위한 보안, 감사 및 감독 정책을 설정합니다.
• 타사 및 내부 AI 시스템의 조달 및 사용 지침을 개발합니다.

이 강사는 온라인 또는 현장에서 직접 지도하는 라이브 교육과정으로, 중간 수준에서 고급 수준의 AI 개발자, 아키텍트, 제품 관리자가 LLM 기반 애플리케이션과 관련된 위험, 예를 들어 프롬프트 주입, 데이터 유출, 필터링되지 않은 출력을 식별하고 완화할 수 있도록 설계되었습니다. 입력 유효성 검사, 인간 개입, 출력 보호 대책을 포함하여 보안 대책을 통합합니다.

이 교육을 마치면 참가자는 다음을 할 수 있게 됩니다:

• LLM 기반 시스템의 핵심 취약점을 이해합니다.
• LLM 앱 아키텍처에 안전한 디자인 원칙을 적용합니다.
• Guardrails AI와 LangChain와 같은 도구를 검증, 필터링, 안전성 유지에 사용합니다.
• 샌드박싱, 레드 팀링, 인간 개입 검토와 같은 기법을 생산 수준 파이프라인에 통합합니다.

이 강사는 대한민국 (온라인 또는 현장)에서 제공하는 이 강사는 AI 보안 개념, 위협 벡터 및 NIST AI RMF 및 ISO/IEC 42001과 같은 글로벌 프레임워크를 이해하고자 하는 초급 수준의 IT 보안, 위험 관리 및 준수 전문가를 대상으로 합니다.

이 교육을 마친 후, 참가자는 다음과 같은 능력을 갖추게 됩니다:

• AI 시스템이 도입하는 고유한 보안 위험을 이해합니다.
• 적대적 공격, 데이터 오염 및 모델 역전과 같은 위협 벡터를 식별합니다.
• NIST AI Risk Management 프레임워크와 같은 기본 통치 모델을 적용합니다.
• AI 사용을 신흥 표준, 준수 지침 및 윤리 원칙과 일치시킵니다.