문의를 보내주셔서 감사합니다! 팀원이 곧 연락드리겠습니다.
예약을 보내주셔서 감사합니다! 저희 팀 멤버 중 한 분이 곧 연락드리겠습니다.
코스 개요
맞춤형 연산자 개발 개요
- 커스텀 연산자를 만들어야 하는 이유와 적용 사례 및 제약 조건
- CANN 런타임 구조와 연산자 통합 지점에 대한 이해
- 화웨이 AI 생태계 내에서의 TBE, TIK, TVM 간 관계 개요
TIK를 활용한 저수준 연산자 프로그래밍
- TIK 프로그래밍 모델 및 지원되는 API 파악
- TIK에서의 메모리 관리 기법과 타일링 전략
- CANN에 등록 가능한 맞춤형 연산자의 생성·컴파일 과정
커스텀 연산자 테스트 및 검증
- 그래프 내에서의 단위 테스트 및 통합 테스트 실시
- 커널 레벨 성능 문제 진단 및 디버깅 방법
- 연산자 실행 과정과 버퍼 동작 패턴 시각화 기법
TVM을 활용한 스케줄링 및 최적화
- 텐서 연산용 컴파일러로서의 TVM 개요
- 맞춤형 연산자를 위한 TVM 스케줄 작성 방법
- Ascend 하드웨어를 대상으로 한 TVM 튜닝, 벤치마킹 및 코드 생성 과정
프레임워크 및 모델과의 통합
- MindSpore 및 ONNX에서 사용 가능한 커스텀 연산자 등록 방법
- 모델 무결성 검증 및 폴백(fallback) 메커니즘 이해
- 다양한 정밀도를 가진 다중 연산자 그래프 처리 방안
사례 분석 및 특화된 최적화 기법
- 소형 입력 데이터에 적합한 고효율 컨볼루션 구현 사례
- 메모리 사용량을 고려한 어텐션 연산자 최적화 사례
- 다양한 기기 환경에서의 커스텀 연산자 배포에 대한 모범 사례
요약 및 향후 학습 방향 제시
요건
- AI 모델 내부 구조 및 연산자 단위 계산 방식에 대한 탄탄한 이해
- Python 및 리눅스 기반 개발 환경 경험
- 신경망 컴파일러 혹은 그래프 수준 최적화 도구 활용 경험
대상 그룹
- AI 툴체인 개발에 종사하는 컴파일러 엔지니어
- 저수준 단위의 AI 최적화 작업을 담당하는 시스템 개발자
- 커스텀 연산자를 구현하거나 새로운 형태의 AI 워크로드를 다루는 개발자
14 시간