문의를 보내주셔서 감사합니다! 팀원이 곧 연락드리겠습니다.
예약을 보내주셔서 감사합니다! 저희 팀 멤버 중 한 분이 곧 연락드리겠습니다.
코스 개요
CANN 최적화 기능 개요
- CANN 내에서 추론 성능이 어떻게 처리되는지 살펴보기
- 엣지 및 임베디드 환경용 AI 시스템의 최적화 목표 정의
- AI 코어 활용도와 메모리 할당 방식에 대한 이해
Graph Engine을 활용한 분석 방법
- Graph Engine과 실행 파이프라인의 기본 개념 소개
- 연산자 그래프와 런타임 지표 시각화 활용법
- 성능 최적화를 위한 연산자 그래프 수정 방안
프로파일링 도구 및 성능 측정 기준
- CANN 프로파일링 툴(profiler)을 이용한 작업 부하 분석 방법
- 커널 실행 시간과 병목 구간 확인 기술
- 메모리 접근 패턴 측정 및 데이터 배치 최적화 전략
TIK를 이용한 커스텀 연산자 개발
- TIK와 연산자 프로그래밍 모델에 대한 기초 설명
- TIK DSL을 활용해 직접 커스텀 연산자를 구현하는 방법
- 개발한 연산자의 성능 평가 및 벤치마킹 절차
TVM을 통한 고급 연산자 최적화
- CANN와 TVM의 연동 개요 설명
- 연산자 그래프에 적용 가능한 자동 튜닝 기법 활용법
- TVM과 TIK를 상황에 따라 전환하여 사용하는 시기와 방법 결정하기
메모리 최적화 기법 정립
- 메모리 배치 및 버퍼 활용 전략 수립
- 온칩 메모리 사용량을 줄이는 구체적인 기술 적용 방법
- 비동기식 실행 처리와 자원 재사용에 관한 모범 사례 공유
실제 배포 사례 및 사례 분석
- 사례 연구: 스마트 시티 카메라 시스템에서의 성능 튜닝 실천 방안
- 사례 연구: 자율주행 차량용 추론 파이프라인 최적화 사례
- 반복적 프로파일링 수행과 지속적인 시스템 개선을 위한 절차 가이드라인
요약 및 향후 학습 방향 제시
요건
- 딥러닝 모델 구조와 학습 과정에 대한 탄탄한 이해
- CANN, TensorFlow 또는 PyTorch를 활용한 모델 배포 경험
- Linux 명령어 인터페이스 사용법, 셸 스크립트 작성 및 Python 프로그래밍에 대한 기초 지식
대상 수강생
- AI 성능 최적화 전문가
- 추론 시스템 최적화 담당자
- 엣지 AI 및 실시간 처리 시스템 개발에 종사하는 엔지니어
14 시간
