코스 개요
1일차
현대 AI 에이전트의 구조 이해하기
단순한 챗봇과 달리 자율적으로 추론하고 행동하는 에이전트의 개념
반응형, 선제적, 하이브리드 및 목표 지향적 에이전트 유형들
인식, 계획 수립, 기억, 도구 활용, 행동 수행 등 핵심 구성 요소 설명
단일 에이전트와 다중 에이전트 구조 간의 장단점 비교
에이전트 프레임워크 및 현대 기술 스택
LangChain, LlamaIndex, AutoGen, CrewAI 등 각각의 특징과 차이점 분석
JADE나 SPADE 같은 기존 프레임워크와의 비교 검토
실제 프로덕션 환경 요구사항에 맞는 적절한 프레임워크 선정 방안
도구 호출, 함수 연동 및 구조화된 출력값 생성 기능 설명
실습: Python을 활용해 도구 호출이 가능한 단일 에이전트 구축하기
다중 에이전트 시스템 아키텍처
중앙 집중식, 분산형, 하이브리드 및 계층적 MAS 설계 모델 소개
FIPA ACL 표준과 실시간 메시지 전송 방식에 대한 논의
계획 수립, 협상 및 동기화 등 다양한 조정 패턴들 설명
다수 에이전트 집단 내에서 나타나는 자발적 행동과 자가 조직화 현상 검토
에이전트의 의사결정 및 학습 메커니즘
협력 및 경쟁 상황에서 게임 이론 기반 상호작용 분석
다중 에이전트 환경 하에서 강화학습 적용 사례 탐구
한 에이전트가 획득한 지식을 다른 에이전트들에게 전달하는 이전 학습 기법 소개
다중 에이전트 간 충돌 해결 및 상호 신뢰 구축 방안 논의
2일차
에이전트를 위한 멀티모달 기술 기반 설명
텍스트, 이미지, 음성, 비디오 등 다양한 모달리티를 통합 처리하는 AI 워크플로우 개념
주요 멀티모달 모델들: GPT-4 Vision, Gemini, Claude, Whisper 소개
에이전트의 추론 루프 내에서 각 모달리티를 효과적으로 결합하는 융합 기법 설명
지연 시간, 비용 및 정확도 간 상호 관계 분석
인식 계층 구축 방법론
에이전트용 이미지 처리 기술: 분류, 캡션 생성, 객체 탐지 등 적용 사례
Whisper ASR을 활용한 음성 인식 및 실시간 전사 기법 소개
자연스러운 음성 상호작용 구현을 위한 텍스트-음성 변환 기술 설명
인식 결과를 LLM 추론 과정 및 도구 선택에 어떻게 연결하는지 알아보기
실습 - Python으로 멀티모달 에이전트 구축하기
목표 정의, 컨텍스트 윈도우 크기 설정 및 사용 가능한 도구 리스트 작성 방법
GPT-4 Vision 및 Whisper API를 시스템에 통합하는 단계별 절차 안내
메모리 관리, 상태 유지 및 대화 흐름 제어 방안 실습
실제 환경에서 작동 가능한 결과물을 생성해 내는 안전한 도구 호출 기법 연습
실습 - 다중 에이전트 시스템 조율 방법
AutoGen 및 CrewAI를 활용해 기능별 전문 에이전트들을 구성하는 절차
각 에이전트가 수행할 역할, 책임 범위 및 상호 간 통신 규칙 설정 방법
시뮬레이션 환경 내에서 리소스 분배와 조율 메커니즘 체험
에이전트의 사고 과정, 도구 사용 이력 및 의사결정 내용을 기록하고 감사하는 방법 연습
3일차
프로덕션 환경에서의 AI 에이전트 위협 분석
기존 소프트웨어와 비교했을 때 에이전트형 AI가 가진 고유한 취약점 요소 설명
데이터, 모델, 프롬프트, 도구 활용, 출력 결과 및 인터페이스 등 주요 공격 경로 파악
자율적으로 도구를 사용하는 에이전트 기반 시스템에 적합한 위협 모델링 방법론 검토
AI 사이버보안 전략과 일반적인 정보 보안 대책 간의 차이점 비교 분석
대항적 공격 실습 체험하기
FGSM, PGD, DeepFool 등 다양한 대항 샘플 및 섭동 기법 설명
화이트박스형과 블랙박스형 공격 상황의 차이점 살펴보기
모델 재구성 및 특정 학습 데이터 포함 여부를 추론하는 공격 기법 탐구
학습 과정에서 발생 가능한 데이터 오염 현상과 백도어 삽입 위험성 검토
프롬프트 주입, 무단 접근 허용 유도 및 LLM 기반 에이전트의 도구 남용 방지 대책
방어 기술과 모델 강건화 전략
대항 훈련법 및 데이터 증강 기술을 활용한 예방 접근법 설명
방어적 디스트릴레이션과 기타 강건성 향상 기법 소개
입력값 전처리, 그래디언트 마스킹 및 규제화 기술의 실용적 적용 사례
차분 프라이버시 기법을 활용한 노이즈 주입 방법과 개인정보 보호 예산 관리 방식 설명
분산 학습 환경에서 안전하게 모델을 공유하고 결합하는 연합학습 기술 소개
Adversarial Robustness Toolbox 활용 실습
2일차에 구축한 멀티모달 에이전트를 대상으로 다양한 유형의 공격 모의 시험하기
외부 섭동 가해진 상황에서 발생하는 성능 저하 정도 측정 방법 연습
방어책을 순차적으로 적용한 뒤 다시 공격 효과를 측정하고 검증하는 절차 체험
도구 호출 경로 및 프롬프트 주입 시도에 대한 스트레스 테스트 기법 실습
4일차
AI 위험 관리 체계 구축 방법론
NIST AI RMF: 거버닝, 매핑, 측정 및 관리 프로세스의 핵심 요소 살펴보기
ISO/IEC 42001 규격과 그 외 신규 AI 관련 표준 개요 설명
현행 기업 내 GRC 체계와 AI 위험 관리 항목을 어떻게 연계할 수 있는지 검토
AI 책임성, 투명한 감사 추적 및 문서화에 필요한 요구 사항 정리
에이전트 기반 시스템의 규제 준수 절차
EU AI Act: 위험 등급 분류 체계와 고위험 시스템 관련 의무 사항 소개
AI 데이터 처리 과정에서 GDPR 및 CCPA가 요구하는 준수 방안 검토
미국 정부의 안전하고 신뢰할 수 있는 AI 개발 가이드라인 설명
금융, 의료, 공공 서비스 등 각 산업별 규제 특성에 맞는 적용 전략 안내
외부 협력사나 타 기업에서 제공되는 AI 도구 이용 시 검토해야 할 위험 관리 항목
윤리, 편향 해소 및 설명 가능성 확보 방안
에이전트 인식 과정과 논리적 판단 수준에서 나타날 수 있는 편향 문제 탐색 및 완화 전략
안전 보장 차원의 설명 가능성과 투명성 유지를 위한 핵심 가이드라인 제시
공정성 원칙 준수와 잠재적 피해 방지 방법에 대한 논의
모든 사용자에게 공평하게 작동하도록 디자인되는 감사 가능한 에이전트 설계 요소 설명
프로덕션 배포, 지속적 모니터링 및 사고 대응 체계 구축
단일 혹은 다중 에이전트 시스템에 적합한 안전한 운영 방식 안내
시스템 상태 변화나 이상 징후, 남용 행위를 지속적으로 감지하는 모니터링 기술 소개
에이전트 활동 내용을 로그화하고 사후 조사와 감사가 용이하도록 기록 절차 마련 방법
AI 보안 침해 발생 시 적절히 대처하고 원상복구할 수 있도록 설계된 응급 처방책 제시
실제로 발생했던 주요 AI 보안 사고 사례와 그로부터 얻은 교훈 공유
최종 프로젝트 및 종합 정리
과정 내내 구축해온 멀티모달 다중 에이전트 시스템을 한 번 더 점검하기
설계부터 개발, 보안 유지, 관리 감독, 최종 배포에 이르는 전체 프로세스 종합 검토
NIST AI RMF 각 기능 항목 기준으로 현재 시스템 수준을 자가 평가해보기
향후 에이전트형 AI와 관련된 보안 기술 동향과 발전 방향 예측하기
결론 및 향후 실천 가이드라인
요건
대상 수강생
프로덕션 환경에서 AI 에이전트 기반 시스템을 구축하는 AI 엔지니어 및 아키텍트. 금융, 의료, 컨설팅과 같은 규제 산업 분야에서 AI 보안 및 준수 관리를 담당하는 사이버보안 전문가들. 또한 기업 플랫폼에 멀티모달 및 다중 에이전트 기능을 통합하려는 시니어 개발자와 솔루션 리드도 본 과정의 적합한 대상입니다.
회원 평가 (3)
강사는 인내심이 많고 매우 도움이 됩니다. 그는 해당 주제에 대해 잘 알고 있습니다.
CLIFFORD TABARES - Universal Leaf Philippines, Inc.
코스 - Agentic AI for Business Automation: Use Cases & Integration
기계 번역됨
지식과 실습의 좋은 조합
Ion Mironescu - Facultatea S.A.I.A.P.M.
코스 - Agentic AI for Enterprise Applications
기계 번역됨
이론과 실습, 고수준 관점과 저수준 관점의 혼합
Ion Mironescu - Facultatea S.A.I.A.P.M.
코스 - Autonomous Decision-Making with Agentic AI
기계 번역됨
