Introduction to AI Trust, Risk, and Security Management (AI TRiSM) 교육 과정

이 강사는 지도하는 실시간 교육과정은 온라인 또는 현장에서 진행되며, 중간 수준의 기업 리더를 대상으로 하며, EU AI Act, GDPR, ISO/IEC 42001 및 미국 AI에 대한 행정 명령과 같은 새로운 글로벌 프레임워크에 부합하면서 AI 시스템을 책임감 있게 관리하고 보안 유지하는 방법을 이해하고자 하는 분들을 대상으로 합니다.

이 교육과정을 마치면 참가자들은 다음을 할 수 있게 됩니다:

• 부서 전체에서 AI를 사용하는 법적, 윤리적, 규제상의 위험을 이해합니다.
• 주요 AI 관리 프레임워크(EU AI Act, NIST AI RMF, ISO/IEC 42001)를 해석하고 적용합니다.
• 기업 AI 배포를 위한 보안, 감사 및 감독 정책을 설정합니다.
• 타사 및 내부 AI 시스템의 조달 및 사용 지침을 개발합니다.

Artificial Intelligence (AI)은 정부 기관과 부처에 새로운 운영 리스크 차원, 관리 도전 과제, 사이버 보안 노출을 제공합니다.

이 강사는 공공 부문 IT 및 리스크 전문가들이 정부나 규제 맥락에서 AI 시스템을 평가, 모니터링 및 보안하는 방법을 이해하고자 하는 사람들을 대상으로 한 실시간 온라인 또는 현장 강의입니다.

이 강의를 마친 후 참가자들은 다음을 할 수 있게 됩니다:

• 편향, 예측 불가능성, 모델 드리프트와 같은 AI 시스템과 관련된 주요 리스크 개념을 해석합니다.
• NIST AI RMF 및 ISO/IEC 42001과 같은 AI 전용 관리 및 감사 프레임워크를 적용합니다.
• AI 모델과 데이터 파이프라인을 대상으로 하는 사이버 보안 위협을 인식합니다.
• AI 배포를 위한 부서 간 리스크 관리 계획과 정책 일치를 수립합니다.

강의 형식

• 공공 부문 사용 사례에 대한 대화형 강의 및 논의.
• AI 관리 프레임워크 연습과 정책 매핑.
• 시나리오 기반 위협 모델링 및 리스크 평가.

강의 맞춤화 옵션

• 이 강의를 위한 맞춤형 교육을 요청하려면 연락하여 안내를 받으십시오.

이 강사는 온라인 또는 현장에서 직접 지도하는 라이브 교육과정으로, 중간 수준에서 고급 수준의 AI 개발자, 아키텍트, 제품 관리자가 LLM 기반 애플리케이션과 관련된 위험, 예를 들어 프롬프트 주입, 데이터 유출, 필터링되지 않은 출력을 식별하고 완화할 수 있도록 설계되었습니다. 입력 유효성 검사, 인간 개입, 출력 보호 대책을 포함하여 보안 대책을 통합합니다.

이 교육을 마치면 참가자는 다음을 할 수 있게 됩니다:

• LLM 기반 시스템의 핵심 취약점을 이해합니다.
• LLM 앱 아키텍처에 안전한 디자인 원칙을 적용합니다.
• Guardrails AI와 LangChain와 같은 도구를 검증, 필터링, 안전성 유지에 사용합니다.
• 샌드박싱, 레드 팀링, 인간 개입 검토와 같은 기법을 생산 수준 파이프라인에 통합합니다.

대한민국에서 강사가 진행하는 이 실시간 교육(온라인 또는 현장)은 특히 금융, 데이터 거버넌스, 컨설팅과 같이 규제가 엄격한 산업에서 AI 모델과 시스템의 특정 보안 취약성을 이해하고 해결하고자 하는 중급 수준의 AI 및 사이버보안 전문가를 대상으로 합니다.

이 교육을 마치면 참가자는 다음을 수행할 수 있습니다.

• AI 시스템을 표적으로 삼는 적대적 공격의 유형과 이를 방어하는 방법을 이해합니다.
• 머신 러닝 파이프라인의 보안을 위해 모델 강화 기술을 구현합니다.
• 머신 러닝 모델에서 데이터 보안과 무결성을 보장합니다.
• AI 보안과 관련된 규정 준수 요구 사항을 살펴보세요.

이 강사는 대한민국 (온라인 또는 현장)에서 제공하는 이 강사는 AI 보안 개념, 위협 벡터 및 NIST AI RMF 및 ISO/IEC 42001과 같은 글로벌 프레임워크를 이해하고자 하는 초급 수준의 IT 보안, 위험 관리 및 준수 전문가를 대상으로 합니다.

이 교육을 마친 후, 참가자는 다음과 같은 능력을 갖추게 됩니다:

• AI 시스템이 도입하는 고유한 보안 위험을 이해합니다.
• 적대적 공격, 데이터 오염 및 모델 역전과 같은 위협 벡터를 식별합니다.
• NIST AI Risk Management 프레임워크와 같은 기본 통치 모델을 적용합니다.
• AI 사용을 신흥 표준, 준수 지침 및 윤리 원칙과 일치시킵니다.

이 강사는 온라인 또는 오프라인에서 진행되는 이 강의는 민감 데이터 환경에서의 동기 및 위험기술의 개요기술 및 규제 고려 사항 (예: GDPR, HIPAA)Federated Learning연방 학습의 개념 및 아키텍처클라이언트-서버 동기화 및 집계PySyft 및 Flower를 사용하여 구현차등 프라이버시차등 프라이버시의 수학DP를 데이터 쿼리와 모델 학습에 적용Opacus 및 TensorFlow 프라이버시 사용다중 당사자 계산(SMPC)SMPC 프로토콜 및 사용 사례암호화 기반 vs. 비밀 공유 접근 방식CrypTen 또는 PySyft를 사용하여 안전 계산 워크플로우동형 암호화완전 동형 암호화 vs. 부분 동형 암호화민감 작업에 대한 암호화 추론TenSEAL 및 Microsoft SEAL과 함께 실습응용 프로그램 및 산업 사례 연구의료에서의 프라이버시: 의료 AI를 위한 연방 학습금융에서의 안전 협업: 위험 모델 및 규정 준수방위 및 정부 사례요약 및 다음 단계Machine Learning 프라이버시 보호는 민감 데이터를 보호하면서도 분산형 또는 제한된 환경에서 고급 AI 기능을 가능하게 하는 분야입니다.이 강사는 온라인 또는 오프라인에서 진행되는 이 강의는 민감 데이터 환경에서의 동기 및 위험기술의 개요기술 및 규제 고려 사항 (예: GDPR, HIPAA)Federated Learning연방 학습의 개념 및 아키텍처클라이언트-서버 동기화 및 집계PySyft 및 Flower를 사용하여 구현차등 프라이버시차등 프라이버시의 수학DP를 데이터 쿼리와 모델 학습에 적용Opacus 및 TensorFlow 프라이버시 사용다중 당사자 계산(SMPC)SMPC 프로토콜 및 사용 사례암호화 기반 vs. 비밀 공유 접근 방식CrypTen 또는 PySyft를 사용하여 안전 계산 워크플로우동형 암호화완전 동형 암호화 vs. 부분 동형 암호화민감 작업에 대한 암호화 추론TenSEAL 및 Microsoft SEAL과 함께 실습응용 프로그램 및 산업 사례 연구의료에서의 프라이버시: 의료 AI를 위한 연방 학습금융에서의 안전 협업: 위험 모델 및 규정 준수방위 및 정부 사례요약 및 다음 단계강의 형식상호작용 강의 및 토론.수많은 연습 및 실습.실제 실험실 환경에서 직접 구현.강의 맞춤화 옵션이 강의를 위한 맞춤형 교육을 요청하려면 연락하여 문의하십시오.기계 학습 원칙에 대한 이해Python 및 ML 라이브러리 (예: PyTorch, TensorFlow) 경험데이터 프라이버시 또는 사이버 보안 개념에 익숙함이 도움이 됩니다.강의 대상AI 연구자데이터 보호 및 프라이버시 준수 팀규제 산업에서 근무하는 보안 엔지니어이 강사는 온라인 또는 오프라인에서 진행되는 이 강의는 민감 데이터 환경에서의 동기 및 위험기술의 개요기술 및 규제 고려 사항 (예: GDPR, HIPAA)Federated Learning연방 학습의 개념 및 아키텍처클라이언트-서버 동기화 및 집계PySyft 및 Flower를 사용하여 구현차등 프라이버시차등 프라이버시의 수학DP를 데이터 쿼리와 모델 학습에 적용Opacus 및 TensorFlow 프라이버시 사용다중 당사자 계산(SMPC)SMPC 프로토콜 및 사용 사례암호화 기반 vs. 비밀 공유 접근 방식CrypTen 또는 PySyft를 사용하여 안전 계산 워크플로우동형 암호화완전 동형 암호화 vs. 부분 동형 암호화민감 작업에 대한 암호화 추론TenSEAL 및 Microsoft SEAL과 함께 실습응용 프로그램 및 산업 사례 연구의료에서의 프라이버시: 의료 AI를 위한 연방 학습금융에서의 안전 협업: 위험 모델 및 규정 준수방위 및 정부 사례요약 및 다음 단계

이 강사는 대한민국 (온라인 또는 현장)에서 제공되는 이 강의는 AI 시스템에 대한 공격을 시뮬레이션하고, 취약점을 발견하며, 배포된 AI 모델의 견고성을 강화하고자 하는 고급 보안 전문가와 머신러닝 전문가를 대상으로 합니다.

이 교육을 마치면 참가자들은 다음을 할 수 있게 됩니다:

• 머신러닝 모델에 대한 실제 위협을 시뮬레이션합니다.
• 모델의 견고성을 테스트하기 위해 적대적 예시를 생성합니다.
• AI API 및 파이프라인의 공격 표면을 평가합니다.
• AI 배포 환경에 대한 레드 팀 전략을 설계합니다.

이 강사는 온라인 또는 현장(온사이트)에서 직접 진행되는, 중간 수준의 엔지니어와 보안 전문가를 대상으로 하는 라이브 교육과정입니다. 이들은 변경, 데이터 유출, 적대적 입력 및 물리적 공격과 같은 위협으로부터 엣지에 배포된 AI 모델을 보호하고자 합니다.

이 교육을 마치면 참가자들은 다음을 할 수 있게 됩니다:

• 엣지 AI 배포에서 보안 위험을 식별하고 평가합니다.
• 변경 저항 및 암호화 추론 기법을 적용합니다.
• 엣지에 배포된 모델을 강화하고 데이터 파이프라인을 보호합니다.
• 내장 및 제한된 시스템에 특화된 위협 완화 전략을 구현합니다.

이 강사는 온라인 또는 현장에서 직접 지도하는 라이브 교육으로, 중간 수준의 머신러닝 및 사이버 보안 전문가들이 개념적 프레임워크와 로버스트 트레이닝 및 차등 프라이버시와 같은 실습 방어 기법을 사용하여 AI 모델에 대한 새로운 위협을 이해하고 완화하는 방법을 배울 수 있도록 목표로 합니다.

이 교육을 마치면 참가자는 다음과 같은 능력을 갖게 됩니다:

• 적대적 공격, 역추적, 그리고 오염과 같은 AI 특화 위협을 식별하고 분류할 수 있습니다.
• Adversarial Robustness Toolbox (ART)와 같은 도구를 사용하여 공격을 시뮬레이션하고 모델을 테스트할 수 있습니다.
• 적대적 트레이닝, 노이즈 주입, 그리고 프라이버시 보존 기법과 같은 실용적인 방어 기법을 적용할 수 있습니다.
• 생산 환경에서 위협 인식 모델 평가 전략을 설계할 수 있습니다.