연락처 정보

코스 개요

안전하고 공정한 AI의 기초 개념

  • 핵심 개념: 안전성, 편향, 공정성, 투명성
  • 편향의 유형: 데이터 측면의 편향, 대표성 문제, 알고리즘상 편향
  • 주요 규제 프레임워크 개요 (EU AI Act, GDPR 등)

미세조정된 모델에서의 편향 현상

  • 미세조정 과정이 어떻게 편향을 초래하거나 강화하는지 살펴보기
  • 실제 사례 연구 및 실패 사례 분석
  • 데이터셋과 모델 예측 결과에서의 편향 식별 방법

편향 완화를 위한 기법들

  • 데이터 수준에서의 대책: 데이터 재균형 조정 및 증강 기법
  • 학습 단계에서 활용 가능한 전략: 정규화, 적대적 편향 완화 기법 등
  • 학습 후 처리 전략: 출력값 필터링 및 보정 방법

모델의 안전성과 강건성 확보 방안

  • 위험하거나 해로운 출력 결과 탐지 방법
  • 적대적인 입력값에 대한 대응 전략
  • 미세조정된 모델의 취약점 분석 및 스트레스 테스트 수행

AI 시스템 감사와 지속적 모니터링 방법

  • 편향 및 공정성 측정 지표 (예: 인구통계학적 평등성 기준 등)
  • 모델 설명 가능성 도구 및 투명성 확보를 위한 프레임워크
  • 지속적인 모니터링 체계와 거버넌스 방안

도구 활용 및 실습 기회

  • 오픈소스 라이브러리 활용법: Fairlearn, Transformers, CheckList 등을 예로 들 수 있음
  • 실습 활동: 미세조정된 모델에서 편향 탐지 및 완화 실험하기
  • 프롬프트 설계와 제약 조건 부여를 통해 안전한 출력값 생성해보기

기업 현장 적용 사례 및 규제 준수 대응 방안

  • 대규모 언어 모델 기반 업무 프로세스에 안전성 요소를 통합하는 모범사례
  • 규제 요건을 충족하기 위한 문서화 및 모델 카드 작성 방법
  • 외부 감사나 검증 과정을 대비한 준비 방향성

요약 및 향후 추진 방향 제시

요건

  • 머신러닝 모델 및 학습 과정에 대한 기초 지식 보유
  • 모델 미세조정 및 대규모 언어 모델 활용 경험 있음
  • 파이썬과 자연어 처리 개념에 익숙함

대상 그룹

  • AI 규제 관련 업무 담당팀
  • 머신러닝 엔지니어들
 14 시간

참가자 수


참가자별 가격

예정된 코스

관련 카테고리