연락처 정보

코스 개요

안전하고 공정한 AI의 기초

  • 핵심 개념: 안전성, 편향, 공정성, 투명성
  • 편향의 유형: 데이터셋, 표현, 알고리즘
  • 규제 프레임워크 개요 (EU AI Act, GDPR 등)

파인튜닝 모델에서의 편향

  • 파인튜닝이 편향을 도입하거나 증폭시키는 방법
  • 사례 연구 및 현실 세계의 실패 사례
  • 데이터셋 및 모델 예측에서의 편향 식별

편향 완화 기술

  • 데이터 수준 전략 (재균형, 증강)
  • 학습 중 전략 (정규화, 적대적 편향 제거)
  • 사후 처리 전략 (출력 필터링, 보정)

모델 안전성 및 강건성

  • 안전하지 않거나 해로운 출력 탐지
  • 적대적 입력 처리
  • 파인튜닝된 모델에 대한 레드 팀링 및 스트레스 테스트

AI 시스템 감사 및 모니터링

  • 편향 및 공정성 평가 지표 (예: 인구통계학적 평등)
  • 설명 가능성 도구 및 투명성 프레임워크
  • 지속적인 모니터링 및 거버넌스 관행

도구킷 및 실습

  • 오픈소스 라이브러리 사용 (예: Fairlearn, Transformers, CheckList)
  • 실습: 파인튜닝된 모델에서 편향 탐지 및 완화
  • 프롬프트 설계 및 제약 조건을 통해 안전한 출력 생성

기업용 사례 및 규정 준수 준비

  • LLM 워크플로우에 안전성을 통합하기 위한 모범 사례
  • 규정 준수를 위한 문서 및 모델 카드
  • 감사 및 외부 검토를 위한 준비

요약 및 다음 단계

요건

  • 머신러닝 모델 및 학습 과정에 대한 이해
  • 파인튜닝 및 대규모 언어 모델(LLM) 작업 경험
  • Python 및 NLP 개념에 대한 친숙함

대상 독자

  • AI 규정 준수 팀
  • ML 엔지니어
 14 시간

참가자 수


참가자별 가격

예정된 코스

관련 카테고리