문의를 보내주셔서 감사합니다! 팀원이 곧 연락드리겠습니다.
예약을 보내주셔서 감사합니다! 저희 팀 멤버 중 한 분이 곧 연락드리겠습니다.
기간 14 시간
코스 개요
맞춤형 연산자 개발 소개
- 맞춤형 연산자를 구축해야 하는 이유: 사용 사례 및 제약 조건
- CANN 런타임 구조 및 연산자 통합 지점
- Huawei AI 생태계에서 TBE, TIK, TVM 개요
TIK를 활용한 저수준 연산자 프로그래밍
- TIK 프로그래밍 모델 및 지원되는 API 이해
- TIK에서 메모리 관리 및 타일링 전략
- CANN으로 맞춤형 연산자 생성, 컴파일 및 등록
맞춤형 연산자 테스트 및 검증
- 그래프 내 연산자의 단위 테스트 및 통합 테스트
- 커널 수준 성능 문제 디버깅
- 연산자 실행 및 버퍼 동작 시각화
TVM 기반 스케줄링 및 최적화
- 텐서 연산을 위한 컴파일러로서의 TVM 개요
- TVM에서 맞춤형 연산자에 대한 스케줄 작성
- Ascend 대상 TVM 튜닝, 벤치마킹 및 코드 생성
프레임워크 및 모델과의 통합
- MindSpore 및 ONNX를 위한 맞춤형 연산자 등록
- 모델 무결성 및 폴백 동작 검증
- 혼합 정밀도를 가진 다중 연산자 그래프 지원
사례 연구 및 특수 최적화
- 사례 연구: 작은 입력 형식을 위한 고효율 컨볼루션
- 사례 연구: 메모리 인식 어텐션 연산자 최적화
- 디바이스 간 맞춤형 연산자 배포 모범 사례
요약 및 다음 단계
요건
- AI 모델 내부 구조 및 연산자 수준 계산에 대한 강력한 지식
- Python 및 Linux 개발 환경 경험
- 뉴럴 네트워크 컴파일러 또는 그래프 수준 최적화기에 대한 익숙함
대상 수강생
- AI 툴체인을 다루는 컴파일러 엔지니어
- 저수준 AI 최적화에 초점을 맞춘 시스템 개발자
- 맞춤형 연산자를 구축하거나 새로운 AI 워크로드를 타깃으로 하는 개발자
