연락처 정보

코스 개요

1일차
현대 AI 에이전트의 해부학

챗봇을 넘어선 자율적 추론 및 동작 시스템으로서의 에이전트

반응형, 능동형, 하이브리드 및 목표 지향적 에이전트 패러다임

핵심 구성 요소: 인식, 계획, 메모리, 도구 사용, 행동

단일 에이전트 대 다중 에이전트 설계의 트레이드오프

에이전트 프레임워크 및 현대 스택

LangChain, LlamaIndex, AutoGen, CrewAI 및 각 프레임워크의 트레이드오프

JADE 및 SPADE와 같은 클래식 프레임워크와의 비교

프로덕션 요구 사항에 기반한 프레임워크 선택

도구 호출, 함수 호출 및 구조화된 출력

실습: 도구 호출이 포함된 단일 Python 에이전트 구축

다중 에이전트 시스템 아키텍처

중앙집중식, 분산형, 하이브리드 및 계층형 MAS 설계

FIPA ACL, 메시지 전달 및 현대적인 equivalents

조정 패턴: 계획, 협상, 동기화

에이전트 개체군에서의 발현 행동 및 자기 조직화

에이전트의 의사결정 및 학습

협력적 및 경쟁적 에이전트 상호작용을 위한 게임 이론

다중 에이전트 환경의 강화학습

에이전트 간 전이 학습 및 지식 공유

조정되는 에이전트 간의 충돌 해결 및 신뢰 구축

2일차
에이전트를 위한 다중 모드 기초

텍스트, 이미지, 음성 및 비디오를 아우르는 통합 워크플로우로서의 다중 모드 AI

주요 다중 모드 모델: GPT-4 Vision, Gemini, Claude, Whisper

에이전트의 추론 루프 내에서 모드를 결합하기 위한 융합 기법

다중 모드 파이프라인의 지연 시간, 비용 및 정확도 트레이드오프

인지 계층 구축

에이전트를 위한 이미지 처리: 분류, 캡셔닝, 객체 감지

Whisper ASR 및 스트리밍 필사(transcription)를 통한 음성 인식

텍스트 음성 변환(TTS) 및 자연스러운 음성 상호작용

인지 출력을 LLM 기반 추론 및 도구 선택에 연결

실습 - Python에서 다중 모드 에이전트 구축

에이전트의 작업, 컨텍스트 윈도우 및 도구 인벤토리 정의

GPT-4 Vision 및 Whisper API 엔드투엔드 연결

메모리, 상태 및 대화 관리 구현

안전하게 실제world의 부수 효과(side effects)를 생성하는 도구 호출 추가

실습 - 다중 에이전트 시스템 오케스트레이션

AutoGen 또는 CrewAI를 활용한 특수화된 에이전트 조합

역할, 책임 및 에이전트 간 통신 프로토콜 정의

시뮬레이션 환경에서의 자원 할당 및 조정

검토 및 감사를 위한 에이전트 추론, 도구 호출 및 기록 로그

3일차
프로덕션 AI 에이전트의 위협 표면

전통적인 소프트웨어와 비교했을 때 에이전트 AI가 고유하게 취약한 이유

공격 표면: 데이터, 모델, 프롬프트, 도구, 출력 및 인터페이스 계층

자율적 도구 사용을 가진 에이전트 기반 시스템의 위협 모델링

AI 사이버보안 관행과 전통적인 사이버보안의 비교

적대적 공격 실습

적대적 예제 및 섭동 방법: FGSM, PGD, DeepFool

화이트박스 대 블랙박스 공격 시나리오

모델 역전 및 멤버십 추론 공격

훈련 중 데이터 독 Poisoning 및 백도어 주입

LLM 기반 에이전트에서의 프롬프트 인젝션, 재일브레이킹(Jailbreaking) 및 도구 오용

방어 기법 및 모델 경화

적대적 학습 및 데이터 증강 전략

방어적 증류 및 기타 견고성 기법

입력 전처리, 그래디언트 마스킹 및 정규화

차등 사생활 보호, 노이즈 주입 및 사생활 예산

분산 훈련을 위한 연산 학습(Federated Learning) 및 보안 집계

적대적 견고성 도구 모음(Adversarial Robustness Toolbox) 실습

2일차에 구축한 다중 모드 에이전트에 대한 공격 시뮬레이션

섭동 상태에서의 견고성 측정 및 성능 저하 정량화

방어 기법을 반복적으로 적용하고 공격 성공률을 재평가

도구 호출 경로 및 프롬프트 인젝션 벡터의 과부하 테스트

4일차
AI를 위한 리스크 관리 프레임워크

NIST AI 리스크 관리 프레임워크: 거버넌스, 매핑, 측정, 관리

ISO/IEC 42001 및 Emerging AI 관련 표준

기존 엔터프라이즈 GRC 프레임워크로 AI 리스크 매핑

AI 책임성, 감사 가능성 및 문서화 요구 사항

에이전트 시스템을 위한 규제 준수

EU AI Act: 위험 등급, 금지된 사용 및 고위험 시스템에 대한 의무

에이전트 데이터 파이프라인에 대한 GDPR 및 CCPA의 시사점

미국 행정부 안전하고 신뢰할 수 있는 AI에 관한 행정명령

금융, 의료 및 공공 서비스를 위한 부문별 가이드라인

제3자 리스크 및 공급업체 AI 도구 사용

윤리, 편향 및 설명 가능성

에이전트의 인식 및 추론 전반의 편향 감지 및 완화

보안과 관련된 속성으로서의 설명 가능성 및 투명성

공정성, 하류 피해 및 책임 있는 배포

포용적이고 감사 가능한 에이전트 동작 설계

프로덕션 배포, 모니터링 및 사고 대응

단일 및 다중 에이전트 시스템을 위한 안전한 배포 패턴

드리프트, 이상 행위 및 오용에 대한 지속적 모니터링

에이전트 행동에 대한 로깅, 감사 추적 및 포렌식 준비

AI 보안 사고 대응 플레이북 및 복구

실제 세계 AI 침해 사례 연구 및 교훈

캡스톤 및 종합 평가

전체 과정에서 구축한 다중 모드 다중 에이전트 시스템 검토

엔드투엔드 파이프라인 검토: 설계, 구축, 보안, 거버넌스, 배포

NIST AI RMF 함수에 대한 시스템 자가 평가

에이전트 AI 및 AI 보안의 Emerging 트렌드에 대한 미래 전망

요약 및 다음 단계

요건

대상 독자

프로덕션용 에이전트 시스템을 구축하는 AI 엔지니어 및 아키텍트. 금융, 의료, 컨설팅 등 규제가 엄격한 산업에서 AI 보장(Assurance)을 책임지는 사이버보안, 리스크 및 준수 전문가. 엔터프라이즈 플랫폼에 다중 모드 및 다중 에이전트 기능을 통합하는 시니어 개발자 및 솔루션 리드.

 28 시간

참가자 수


참가자별 가격

회원 평가 (3)

예정된 코스

관련 카테고리