Course Outline

Cambricon 및 MLU 아키텍처 소개

  • Cambricon의 AI 칩 포트폴리오 개요
  • MLU 아키텍처 및 명령 파이프라인
  • 지원 모델 유형 및 사용 사례

개발 도구 체인 설치

  • BANGPy 및 Neuware SDK 설치
  • Python 및 C++에 대한 환경 설정
  • 모델 호환성 및 사전 처리

BANGPy를 통한 모델 개발

  • 텐서 구조 및 형태 관리
  • 계산 그래프 구성
  • BANGPy에서 사용자 정의 연산 지원

Neuware 런타임을 통한 배포

  • 모델 변환 및 로딩
  • 실행 및 추론 제어
  • 엣지 및 데이터 센터 배포 방법

성능 최적화

  • 메모리 매핑 및 레이어 조정
  • 실행 추적 및 프로파일링
  • 일반적인 병목 현상 및 해결책

애플리케이션에 MLU 통합

  • 애플리케이션 통합을 위한 Neuware API 사용
  • 스트리밍 및 다중 모델 지원
  • 하이브리드 CPU-MLU 추론 시나리오

Use Case 및 종단 간 프로젝트

  • 랩: 비전 또는 NLP 모델 배포
  • BANGPy 통합을 통한 엣지 추론
  • 정확도 및 처리량 테스트

요약 및 다음 단계

Requirements

  • 머신러닝 모델 구조에 대한 이해
  • Python와/또는 C++에 대한 경험
  • 모델 배포 및 가속화 개념에 대한 익숙함

대상

  • 임베디드 AI 개발자
  • 엣지 또는 데이터 센터에 배포하는 ML 엔지니어
  • 중국 AI 인프라와 작업하는 개발자
 21 Hours

Number of participants


Price per participant

Upcoming Courses

Related Categories