Course Outline
이 과정은 3일로 구분되며, 세 번째 날은 선택 사항입니다.
1일차 - Machine Learning 및 Deep Learning: 이론적 개념
1. AI 소개, Machine Learning & Deep Learning
- 이 분야의 환상과는 거리가 먼 인공지능의 역사, 기본 개념 및 일반적인 응용
- 집단지성: 수많은 가상 에이전트가 공유하는 지식의 집합체
- 유전자 알고리즘: 선택을 통해 가상 에이전트 집단을 진화시킵니다.
- Machine Learning 평소 : 정의.
- 작업 유형: 지도 학습, 비지도 학습, 강화 학습
- 작업 유형: 분류, 회귀, 클러스터링, 밀도 추정, 차원 축소
- 알고리즘의 예Machine Learning: 선형 회귀, Naive Bayes, Random Tree
- 기계 학습 VS Deep Learning: Machine Learning가 오늘날 최신 기술로 남아 있는 문제(Random Forest 및 XGBoosts)
2. 신경망의 기본 개념 (응용: 다층 퍼셉트론)
- 수학적 기초를 상기시켜줍니다.
- 신경망의 정의: 고전적인 아키텍처, 이전 활성화의 활성화 및 가중치 부여 기능, 네트워크의 깊이
- 신경망 학습의 정의: 비용 함수, 역전파, 확률적 경사하강법, 최대 우도.
- 신경망 모델링 : 문제 유형(회귀, 분류 등)에 따른 입력 및 출력 데이터 모델링. 차원의 저주. 다중 기능 데이터와 신호의 구별. 데이터에 따른 비용 함수 선택.
- 신경망을 이용한 함수 근사화: 프리젠테이션 및 예시
- 신경망을 이용한 분포 근사화: 프리젠테이션 및 예시
- 데이터 확대: 데이터 세트의 균형을 맞추는 방법
- 신경망 결과의 일반화.
- 신경망 초기화 및 정규화: L1/L2 정규화, 배치 정규화...
- 최적화 및 수렴 알고리즘.
3. 일반적인 ML/DL 도구
장점, 단점, 생태계 내에서의 위치 및 용도에 대한 간단한 프레젠테이션이 계획되어 있습니다.
- 데이터 관리 도구: Apache Spark, 아파치 Hadoop
- 공통 도구 Machine Learning: Numpy, Scipy, Sci-kit
- 상위 수준 DL 프레임워크: PyTorch, Keras, Lasagne
- 낮은 수준의 DL 프레임워크: Theano, Torch, Caffe, Tensorflow
2일차 – 컨벌루션 및 순환 네트워크
4. 컨벌루션 Neural Networks (CNN).
- CNN의 발표: 기본 원리와 응용
- CNN의 기본 동작: 컨볼루션 레이어, 커널 사용, 패딩 및 스트라이드, 특징 맵 생성, '풀링' 유형 레이어. 1D, 2D 및 3D 확장.
- 이미지 분류에 최첨단 기술을 가져온 다양한 CNN 아키텍처(LeNet, VGG Networks, Network in Network, Inception, Resnet)를 소개합니다. 각 아키텍처와 보다 글로벌한 애플리케이션(1x1 컨볼루션 또는 잔여 연결)이 가져온 혁신 제시
- 주의 모델을 사용합니다.
- 일반적인 분류 시나리오에 적용(텍스트 또는 이미지)
- 생성을 위한 CNN: 초해상도, 픽셀 간 분할. 이미지 생성을 위해 특징 맵을 강화하는 주요 전략을 제시합니다.
5. 반복 Neural Networks(RNN).
- RNN의 제시: 기본 원리 및 응용.
- RNN의 기본 작동: 숨겨진 활성화, 시간에 따른 역전파, 펼쳐진 버전.
- GRU(Gated Recurrent Units) 및 LSTM(Long Short Term Memory) 개발. 이러한 아키텍처로 인해 발생하는 다양한 상태와 개발에 대한 프레젠테이션
- 수렴 및 소실 그라데이션 문제
- 고전적인 아키텍처의 종류: 시계열 예측, 분류...
- RNN 인코더 디코더 유형 아키텍처. 주의 모델을 사용합니다.
- NLP 응용 프로그램: 단어/문자 인코딩, 번역.
- 비디오 애플리케이션: 비디오 시퀀스의 다음 생성 이미지 예측.
3일차 – 세대별 모델 및 Reinforcement Learning
6. 세대 모델: VAE(Variational AutoEncoder) 및 GAN(Generative Adversarial Networks).
- 세대별 모델 발표, 2일차 CNN과의 연계
- 자동 인코딩: 차원 축소 및 생성 제한
- Variational Auto-encoder: 세대 모델 및 데이터 분포 근사. 잠재 공간의 정의 및 사용. 재매개변수화 트릭. 애플리케이션 및 관찰된 한계
- 생성적 적대 네트워크: 기본 원칙. 교대 학습이 가능한 2개의 네트워크 아키텍처(생성자와 판별자), 비용 함수 사용 가능.
- GAN의 수렴과 어려움이 발생합니다.
- 향상된 수렴: Wasserstein GAN, BeGAN. 지구 이동 거리.
- 이미지 또는 사진 생성, 텍스트 생성, 슈퍼용 애플리케이션
해결.
7.딥Reinforcement Learning.
- 강화학습 제시: 상태와 가능한 행동으로 정의된 환경에서 에이전트 제어
- 신경망을 사용하여 상태 함수를 근사화
- Deep Q Learning: 재생을 경험하고 비디오 게임 제어에 적용합니다.
- 학습 정책의 최적화. 온-정책 && 오프-정책. 액터 크리티컬 아키텍처. A3C.
- 응용 분야: 간단한 비디오 게임 또는 디지털 시스템 제어.
Requirements
엔지니어 레벨