문의를 보내주셔서 감사합니다! 팀원이 곧 연락드리겠습니다.
예약을 보내주셔서 감사합니다! 저희 팀 멤버 중 한 분이 곧 연락드리겠습니다.
기간 14 시간
코스 개요
의사결정이 모델 주도형이 될 때 무엇이 달라지는가
- 규칙과 인간의 판단에서 점수화된 옵션으로의 전환
- 자동화된 조치의 속도와 규모
- 새로운 실패 모드와 책임 공백
의사결정 인벤토리 및 리스크 분류
- 자동화된 의사결정 목록화
- 영향력, 가역성 및 영향받는 이해관계자
- 리스크 티어 및 통제 기대치
- 의사결정 등급별 소유권
책임 소재와 인간의 감독
- 의미 있는 인간 검토와 형식적 검토의 차이
- 자율성 임계값을 거버넌스 결정으로 간주하기
- 에스컬레이션 경로 및 응답 시간
- 책임 있는 오너 및 승인(sign-off)
의사결정 기록과 설명 가능성
- 방어 가능한 의사결정 기록의 구성 요소
- 신뢰도, 옵션 및 컨텍스트 보존
- 모델 및 버전 추적 가능성
- 고객이나 규제 당국에게 의사결정 설명하기
정책과 경계 통제
- 승인된 옵션 세트 및 변경 통제
- 임계값 거버넌스 및 정기 검토
- 금지된 의사결정과 하드 스톱
- 모델 출력과 함께 정책 as 코드 적용
규제 기대 사항
- 의사결정 시스템에 대한 EU AI 법 의무 사항
- 금융, 보험, 보건 분야의 섹터 규칙
- 데이터 보호 및 자동화된 의사결정 권리
- 문서화 및 적합성 증거
벤더, 라이선스 및 소스 리스크
- 호스팅된 의사결정 API와 오픈 웨이트 비교
- 파생 모델 및 내장 모델에 대한 라이선스 조항
- 공급자 의존성과 중단 리스크
- 웨이트 무결성 및 버전 고정
편향, 공정성 및 결과 모니터링
- 그룹 간 결과 불평등
- 프록시 변수와 옵션 프레이밍
- 소송 및 불만 시그널
- 정기적인 공정성 검토
잘못된 의사결정에 대한 인시던트 대응
- 체계적인 의사결정 오류 탐지
- 자율성 중단 및 억제
- 조치 및 고객 구제
- 근본 원인 분석 및 통제 업데이트
의사결정 계층의 보증 감사
- 감사인이 요청해야 할 증거
- 정확성과 보정 주장 테스트
- 의사결정 및 오버라이드 샘플링
- 이사회에 결과 보고하기
요건
- 엔터프라이즈 환경에서의 AI 또는 자동화 프로젝트에 대한 익숙함.
- 리스크, 컴플라이언스 또는 감사 프로세스에 대한 이해.
- 프로그래밍 경험 불필요.
대상 독자
- 리스크, 컴플라이언스 및 모델 리스크 오피서
- 자동화된 의사결정을 검토하는 내부 감사인
- AI 거버넌스 및 데이터 보호 리드
- 자동화 워크플로우에 대한 책임을 지는 제품 오너
- 에이전트 시스템에 감독을 설계하는 아키텍트
