자율 AI 에이전트의 윤리와 거버넌스 교육 과정

자율 시스템 윤리의 기초

• AI 에이전트에서의 자율성 정의
• 기계 행동에 적용되는 주요 윤리 이론
• 이해관계자 관점 및 가치 중심 설계(Value-Sensitive Design)

사회적 위험과 고위험 유스케이스

• 공공 안전, 보건, 국방 분야에서의 자율 에이전트
• 인간-AI 협업 및 신뢰의 경계
• 불의한 결과와 리스크 증폭 시나리오

법적 및 규제적 환경

• AI 법규 및 정책 동향 개요 (EU AI Act, NIST, OECD)
• AI 에이전트의 책임, 법적 배상, 법적 지위
• 글로벌 거버넌스 이니셔티브 및 공백

설명 가능성과 의사결정 투명성

• 블랙박스 자율 의사결정의 과제
• 설명 가능하고 감사 가능한 에이전트 설계
• 투명성 도구 및 프레임워크 (예: 모델 카드, 데이터시트)

정렬(Alignment), 제어 및 도덕적 책임

• 에이전트 행동 정렬을 위한 AI 정렬 전략
• 인간-in-the-loop 대 human-on-the-loop 제어 패러다임
• 설계자, 사용자, 기관 간의 공동 책임

윤리적 리스크 평가 및 완화

• 에이전트 설계에서의 리스크 매핑 및 핵심 실패 분석
• 안전장치 및 오프 스위치 메커니즘
• 편향, 차별, 공정성 감사

거버넌스 설계 및 기관 감독

• 책임 있는 AI 거버넌스의 원칙
• 멀티스테이크홀더 감독 모델 및 감사
• 자율 에이전트를 위한 컴플라이언스 프레임워크 설계

요약 및 다음 단계