연락처 정보

코스 개요

LLM 아키텍처 및 공격 표면 개요

  • LLM의 구축, 배포 및 API를 통한 접근 방식
  • LLM 애플리케이션 스택의 주요 구성 요소(예: 프롬프트, 에이전트, 메모리, API)
  • 실제 사용 중 보안 문제가 발생하는 지점과 원인

프롬프트 인젝션 및 조립크 공격

  • 프롬프트 인젝션이란 무엇이며 왜 위험한지
  • 직접 및 간접 프롬프트 인젝션 시나리오
  • 안전 필터를 우회하기 위한 조립크 기법
  • 감지 및 완화 전략

데이터 유출 및 개인정보 보호 위험

  • 출력을 통한 우발적 데이터 노출
  • PII 유출 및 모델 메모리 오용
  • 개인정보 보호를 고려한 프롬프트 및 검색 증강 생성(RAG) 설계

LLM 출력 필터링 및 보호

  • 콘텐츠 필터링 및 검증을 위한 Guardrails AI 사용
  • 출력 스키마 및 제약 조건 정의
  • 안전하지 않은 출력의 모니터링 및 로깅

인간 중심 워크플로우 접근 방식

  • 인간 감독을 도입할 시기와 위치
  • 승인 대기열, 점수 임계값, 폴백 처리
  • 신뢰 보정 및 설명 가능성의 역할

보안 LLM 애플리케이션 설계 패턴

  • API 호출 및 에이전트를 위한 최소 권한 및 샌드박싱
  • 속도 제한, 슬로팅 및 남용 감지
  • LangChain을 통한 견고한 체이닝 및 프롬프트 격리

컴플라이언스, 로깅 및 거버넌스

  • LLM 출력의 감사 가능성 확보
  • 추적 가능성 및 프롬프트/버전 관리 유지
  • 내부 보안 정책 및 규제 요구 사항과의 정렬

요약 및 다음 단계

요건

  • 대규모 언어 모델 및 프롬프트 기반 인터페이스에 대한 이해
  • Python을 사용하여 LLM 애플리케이션 구축 경험
  • API 통합 및 클라우드 기반 배포에 대한 친숙함

대상자

  • AI 개발자
  • 애플리케이션 및 솔루션 아키텍트
  • LLM 도구를 사용하는 기술 제품 관리자
 14 시간

참가자 수


참가자별 가격

예정된 코스

관련 카테고리