연락처 정보

코스 개요

성능 관련 개념 및 지표 설명

  • 지연 시간, 처리량, 전력 소비, 리소스 활용도
  • 시스템 차원과 모델 차원의 병목 현상 구분
  • 추론 환경과 학습 환경에서의 성능 분석 방식 차이점

화웨이 Ascend 기반 성능 분석 방법

  • CANN Profiler 및 MindInsight 활용법
  • 커널 및 연산자 관련 문제 진단 방법
  • 오프로드 패턴 설정과 메모리 매핑 기술

Biren GPU에서의 성능 분석 방안

  • Biren SDK가 제공하는 성능 모니터링 기능 활용법
  • 커널 결합 기법, 메모리 정렬 및 실행 큐 관리 전략
  • 전력 소비와 온도 변화를 고려한 분석 기법

Cambricon MLU에서의 성능 분석 접근법

  • BANGPy 및 Neuware 성능 분석 도구 사용법
  • 커널 단위 상태 확인과 로그 해석 방법
  • 배포 프레임워크와 연동된 MLU 프로파일러 활용법

그래프 및 모델 수준의 최적화 전략

  • 그래프 간소화 및 양자화 기법 적용 방안
  • 연산자 결합 기술과 연산 그래프 재구성 방법
  • 입력 데이터 크기 표준화와 배치 사이즈 조정 전략

메모리 및 커널 최적화 기법 소개

  • 메모리 할당 방식 개선 및 재사용 효율화 방법
  • 여러 칩셋 환경에서의 버퍼 관리 효율화 전략
  • 각 플랫폼별 특성에 맞는 커널 튜닝 기법

다중 플랫폼 간 최적화 모범 사례

  • 플랫폼 간 성능 일관성을 확보하기 위한 추상화 방법론
  • 여러 종류의 칩을 사용하는 환경에서 공유 가능한 튜닝 파이프라인 구축법
  • 사례: Ascend, Biren 및 MLU에서 객체 탐지 모델 성능 최적화 과정

요약 및 향후 전개 방향 안내

요건

  • AI 모델 학습 또는 배포 파이프라인 운영 경험
  • GPU/MLU 연산 원리 및 모델 최적화에 대한 이해도
  • 성능 분석 도구와 지표에 대한 기본적인 이해력

대상자

  • 성능 엔지니어
  • 머신러닝 인프라 운영팀
  • AI 시스템 아키텍트
 21 시간

참가자 수


참가자별 가격

예정된 코스

관련 카테고리