연락처 정보

코스 개요

맞춤형 연산자 개발 개요

  • 커스텀 연산자를 만들어야 하는 이유와 적용 사례 및 제약 조건
  • CANN 런타임 구조와 연산자 통합 지점에 대한 이해
  • 화웨이 AI 생태계 내에서의 TBE, TIK, TVM 간 관계 개요

TIK를 활용한 저수준 연산자 프로그래밍

  • TIK 프로그래밍 모델 및 지원되는 API 파악
  • TIK에서의 메모리 관리 기법과 타일링 전략
  • CANN에 등록 가능한 맞춤형 연산자의 생성·컴파일 과정

커스텀 연산자 테스트 및 검증

  • 그래프 내에서의 단위 테스트 및 통합 테스트 실시
  • 커널 레벨 성능 문제 진단 및 디버깅 방법
  • 연산자 실행 과정과 버퍼 동작 패턴 시각화 기법

TVM을 활용한 스케줄링 및 최적화

  • 텐서 연산용 컴파일러로서의 TVM 개요
  • 맞춤형 연산자를 위한 TVM 스케줄 작성 방법
  • Ascend 하드웨어를 대상으로 한 TVM 튜닝, 벤치마킹 및 코드 생성 과정

프레임워크 및 모델과의 통합

  • MindSpore 및 ONNX에서 사용 가능한 커스텀 연산자 등록 방법
  • 모델 무결성 검증 및 폴백(fallback) 메커니즘 이해
  • 다양한 정밀도를 가진 다중 연산자 그래프 처리 방안

사례 분석 및 특화된 최적화 기법

  • 소형 입력 데이터에 적합한 고효율 컨볼루션 구현 사례
  • 메모리 사용량을 고려한 어텐션 연산자 최적화 사례
  • 다양한 기기 환경에서의 커스텀 연산자 배포에 대한 모범 사례

요약 및 향후 학습 방향 제시

요건

  • AI 모델 내부 구조 및 연산자 단위 계산 방식에 대한 탄탄한 이해
  • Python 및 리눅스 기반 개발 환경 경험
  • 신경망 컴파일러 혹은 그래프 수준 최적화 도구 활용 경험

대상 그룹

  • AI 툴체인 개발에 종사하는 컴파일러 엔지니어
  • 저수준 단위의 AI 최적화 작업을 담당하는 시스템 개발자
  • 커스텀 연산자를 구현하거나 새로운 형태의 AI 워크로드를 다루는 개발자
 14 시간

참가자 수


참가자별 가격

예정된 코스

관련 카테고리