GPU Programming - OpenCL 대 CUDA 대 ROCm 교육 과정

Huawei Ascend는 고성능 추론 및 학습을 위한 AI 프로세서 제품군입니다.

이 강사는 중간 수준의 AI 엔지니어와 데이터 과학자가 Huawei의 Ascend 플랫폼과 CANN 툴킷을 사용하여 신경망 모델을 개발하고 최적화할 수 있도록 돕습니다. 온라인 또는 현장 강의가 가능합니다.

이 교육을 통해 참가자들은 다음과 같은 능력을 갖추게 됩니다:

• CANN 개발 환경을 설정하고 구성합니다.
• MindSpore와 CloudMatrix 워크플로우를 사용하여 AI 애플리케이션을 개발합니다.
• 사용자 정의 연산자와 타일링을 사용하여 Ascend NPU에서 성능을 최적화합니다.
• 모델을 엣지 또는 클라우드 환경에 배포합니다.

수업 형식

• 상호작용을 위한 강의 및 토론.
• Huawei Ascend와 CANN 툴킷을 예제 애플리케이션에 적용하는 실습.
• 모델 빌딩, 학습 및 배포에 중점을 둔 안내 연습.

수업 맞춤화 옵션

• 인프라나 데이터셋에 맞춰 이 강의를 맞춤형으로 요청하려면, 연락처 주시기 바랍니다.

CANN (Compute Architecture for Neural Networks)는 Ascend AI 프로세서에서 AI 모델을 배포하고 최적화하기 위한 화웨이의 AI 계산 스택입니다.

이 강사는 중급 AI 개발자 및 엔지니어를 대상으로 합니다. 그들은 CANN 툴킷과 MindSpore, TensorFlow, 또는 PyTorch와 같은 도구를 사용하여 학습된 AI 모델을 Huawei Ascend 하드웨어에 효율적으로 배포하기를 원합니다.

이 훈련을 마치면 참가자들은 다음을 할 수 있습니다.

• CANN 아키텍처와 AI 배포 파이프라인에서 그 역할을 이해합니다.
• 인기 프레임워크에서 모델을 Ascend 호환 형식으로 변환하고 적응합니다.
• ATC, OM 모델 변환, MindSpore와 같은 도구를 사용하여 엣지 및 클라우드 추론에 사용합니다.
• 배포 문제를 진단하고 Ascend 하드웨어에서 성능을 최적화합니다.

강의 형식

• 상호작용 강의 및 데모
• CANN 도구 및 Ascend 시뮬레이터 또는 장치를 사용하는 실습 랩 작업
• 실제 세계의 AI 모델에 기반한 실용적인 배포 시나리오

강의 커스터마이징 옵션

• 이 강의를 위한 맞춤형 교육을 요청하려면, 연락 주시기 바랍니다.

비렌 AI 가속기는 AI 및 HPC 워크로드에 최적화된 고성능 GPU로, 대규모 학습 및 추론을 지원합니다.

이 강의는 비렌의 고유한 GPU 스택을 활용하여 CUDA 기반 환경과 실질적인 비교를 통해 응용 프로그램을 프로그래밍하고 최적화하고자 하는 중급에서 고급 개발자를 대상으로 합니다.

이 강의를 마치면 참가자들은 다음과 같은 능력을 갖추게 됩니다:

• 비렌 GPU 아키텍처와 메모리 계층을 이해합니다.
• 개발 환경을 설정하고 비렌의 프로그래밍 모델을 사용합니다.
• CUDA 스타일 코드를 비렌 플랫폼에 맞게 번역하고 최적화합니다.
• 성능 튜닝 및 디버깅 기법을 적용합니다.

수업 형식

• 상호작용형 강의 및 토론.
• 샘플 GPU 워크로드에서 비렌 SDK를 직접 사용합니다.
• 포팅 및 성능 튜닝에 중점을 둔 안내된 연습.

수업 맞춤화 옵션

• 응용 프로그램 스택 또는 통합 요구 사항에 맞춘 이 수업에 대한 맞춤형 강의를 요청하려면, 커스터마이징을 위해 문의해 주세요.

Cambricon MLUs (Machine Learning 유닛)은 엣지 및 데이터 센터 시나리오에서 추론 및 학습을 위한 최적화된 전문 AI 칩입니다.

이 강사는 BANGPy 프레임워크와 Neuware SDK를 사용하여 Cambricon MLU 하드웨어에서 AI 모델을 구축하고 배포하고자 하는 중급 개발자를 대상으로 하는 온라인 또는 오프라인에서 진행되는 강의입니다.

이 강의가 끝나면 참가자들은 다음과 같은 작업을 할 수 있게 됩니다:

• BANGPy와 Neuware 개발 환경을 설정하고 구성합니다.
• Python 및 C++ 기반 모델을 Cambricon MLU에 개발하고 최적화합니다.
• Neuware 런타임을 실행하는 엣지 및 데이터 센터 장치에 모델을 배포합니다.
• MLU 특화 가속 기능을 사용한 ML 워크플로를 통합합니다.

강의 형식

• 상호작용 강의 및 토론.
• BANGPy와 Neuware를 개발 및 배포에 직접 사용하는 실습.
• 최적화, 통합 및 테스트에 중점을 둔 지도 연습.

강의 맞춤화 옵션

• 강의를 Cambricon 장치 모델 또는 사용 사례에 맞게 맞춤화한 교육을 요청하려면, 연락하여 조정을 신청하십시오.

CANN (Compute Architecture for Neural Networks)은 Ascend AI 프로세서에서 AI 모델을 컴파일, 최적화 및 배포하기 위해 사용되는 화웨이의 AI 컴퓨팅 툴킷입니다.

이 강사는 초보 AI 개발자가 CANN가 학습부터 배포까지의 모델 라이프사이클에 어떻게 맞는지 이해하고, MindSpore, TensorFlow, 그리고 PyTorch와 같은 프레임워크와 어떻게 작동하는지 알 수 있도록 온라인 또는 현장 강의를 진행합니다.

이 교육을 통해 참가자들은 다음을 할 수 있게 됩니다:

• CANN 툴킷의 목적과 구조를 이해합니다.
• CANN와 MindSpore로 개발 환경을 설정합니다.
• 간단한 AI 모델을 Ascend 하드웨어에 변환하고 배포합니다.
• 향후 CANN 최적화 또는 통합 프로젝트에 대한 기초 지식을 습득합니다.

코스 형식

• 상호작용 강의 및 토론.
• 간단한 모델 배포를 위한 실습.
• CANN 툴체인과 통합 포인트에 대한 단계별 설명.

코스 커스터마이징 옵션

• 이 코스의 맞춤형 교육을 요청하려면, 커스터마이징을 위해 문의하세요.

화웨이의 Ascend CANN 툴킷은 Ascend 310과 같은 엣지 디바이스에서 강력한 AI 추론을 가능하게 합니다. CANN는 컴퓨팅과 메모리가 제한된 환경에서 모델을 컴파일, 최적화하고 배포할 수 있는 필수 도구를 제공합니다.

이 강사는 중급 AI 개발자 및 통합자를 대상으로, Ascend 엣지 디바이스에서 CANN 툴체인을 사용하여 모델을 배포하고 최적화하는 방법을 배울 수 있는 온라인 또는 현장 실습 수업을 제공합니다.

이 수업을 마친 후 참가자들은 다음을 할 수 있게 됩니다:

• CANN 도구를 사용하여 Ascend 310용 AI 모델을 준비하고 변환합니다.
• MindSpore Lite와 AscendCL을 사용하여 가벼운 추론 파이프라인을 구축합니다.
• 제한된 컴퓨팅 및 메모리 환경에서 모델 성능을 최적화합니다.
• 실제 엣지 사용 사례에서 AI 애플리케이션을 배포하고 모니터링합니다.

강좌 형식

• 상호작용 강의와 시연.
• 엣지 특화 모델과 시나리오를 위한 실습 작업.
• 가상 또는 물리적 엣지 하드웨어에 대한 실시간 배포 예시.

강좌 커스터마이징 옵션

• 이 강좌를 커스터마이징하려면, 커스터마이징을 요청하려면 문의하여 주십시오.

화웨이의 AI 스택은 CANN SDK부터 MindSpore 프레임워크까지 Ascend 하드웨어에 최적화된 AI 개발 및 배포 환경을 제공합니다.

이 강사는 초보자에서 중급 수준의 기술 전문가들을 대상으로, CANN과 MindSpore 구성 요소가 AI 라이프사이클 관리와 인프라 결정 지원을 어떻게 통합하는지 이해하는 데 중점을 둡니다.

이 교육을 통해 참가자들은 다음을 할 수 있게 됩니다.

• 화웨이의 AI 계산 스택의 계층형 아키텍처를 이해합니다.
• CANN이 모델 최적화와 하드웨어 수준의 배포를 어떻게 지원하는지 확인합니다.
• MindSpore 프레임워크와 도구 체인을 업계 대안과 비교하여 평가합니다.
• 화웨이의 AI 스택을 기업 또는 클라우드/온프레미스 환경에 배치합니다.

수업 형식

• 상호작용 강의 및 토론.
• 라이브 시스템 데모 및 사례 기반 워크스루.
• MindSpore에서 CANN로의 모델 흐름에 대한 선택적 안내형 실습.

수업 맞춤화 옵션

• 이 강의를 맞춤형 교육으로 요청하려면, 연락 주시기 바랍니다.

CANN SDK (Neural Networks 계산 아키텍처용)는 Ascend AI 프로세서에서 배포된 신경망의 성능을 미세 조정하고 최적화할 수 있도록 개발자에게 AI 계산 기반을 제공하는 화웨이의 솔루션입니다.

이 인스트럭터 리드 라이브 트레이닝(온라인 또는 오프라인)은 CANN의 고급 도구 세트를 사용하여 추론 성능을 최적화하고자 하는 고급 수준의 AI 개발자와 시스템 엔지니어를 대상으로 합니다. Graph Engine, TIK 및 사용자 정의 오퍼레이터 개발을 포함합니다.

이 트레이닝을 통해 참가자들은 다음을 할 수 있게 됩니다:

• CANN의 런타임 아키텍처와 성능 라이프사이클을 이해합니다.
• 성능 분석 및 최적화를 위해 프로파일링 도구와 Graph Engine을 사용합니다.
• TIK와 TVM을 사용하여 사용자 정의 오퍼레이터를 생성하고 최적화합니다.
• 메모리 병목 현상을 해결하고 모델 처리량을 개선합니다.

코스 형식

• 상호작용형 강의 및 토론.
• 실시간 프로파일링 및 오퍼레이터 조정 실습.
• 엣지 케이스 배포 예제를 사용하여 최적화 연습.

코스 맞춤화 옵션

• 이 코스에 대한 맞춤형 트레이닝을 요청하려면 연락 주세요.

CANN SDK (Neural Networks을 위한 컴퓨팅 아키텍처)는 특히 Huawei Ascend 하드웨어에서 실시간 AI 애플리케이션을 위한 컴퓨터 비전과 NLP를 위한 강력한 배포 및 최적화 도구를 제공합니다.

이 강사는 중급 수준의 AI 전문가가 CANN SDK를 사용하여 비전 및 언어 모델을 구축, 배포 및 최적화하여 생산 환경에서 사용할 수 있도록 하는 온라인 또는 오프라인 교육과정입니다.

이 교육을 통해 참가자는 다음을 할 수 있게 됩니다.

• CANN와 AscendCL을 사용하여 CV 및 NLP 모델을 배포 및 최적화합니다.
• CANN 도구를 사용하여 모델을 변환하고 라이브 파이프라인에 통합합니다.
• 탐지, 분류 및 감정 분석과 같은 작업을 위한 추론 성능을 최적화합니다.
• 엣지 또는 클라우드 기반 배포 시나리오를 위한 실시간 CV/NLP 파이프라인을 구축합니다.

강의 형식

• 상호작용 강의 및 데모.
• 모델 배포 및 성능 프로파일링을 위한 실습.
• 실제 CV 및 NLP 사용 사례를 사용하여 라이브 파이프라인 설계.

강의 맞춤화 옵션

• 이 강의를 위한 맞춤형 교육을 요청하려면 문의하여 조치해 주세요.

CANN TIK (텐서 명령어 커널) 및 Apache TVM은 AI 모델 연산자의 고급 최적화 및 사용자 정의를 위한 Huawei Ascend 하드웨어를 가능하게 합니다.

이 강사는 시스템 개발자들이 CANN의 TIK 프로그래밍 모델과 TVM 컴파일러 통합을 사용하여 AI 모델의 사용자 정의 연산자를 구축, 배포 및 튜닝할 수 있도록 합니다.

이 강좌를 통해 참가자들은 다음을 할 수 있게 됩니다:

• TIK DSL을 사용하여 Ascend 프로세서용 사용자 정의 AI 연산자를 작성하고 테스트합니다.
• 사용자 정의 연산자를 CANN 런타임과 실행 그래프에 통합합니다.
• TVM을 사용하여 연산자 일정 조정, 자동 튜닝 및 벤치마킹을 수행합니다.
• 사용자 정의 계산 패턴에 대한 명령어 수준 성능을 디버깅하고 최적화합니다.

강좌 형식

• 상호작용식 강의 및 데모.
• TIK 및 TVM 파이프라인을 사용하여 연산자를 코딩하는 실습.
• Ascend 하드웨어 또는 시뮬레이터에서 테스트 및 튜닝.

강좌 사용자 정의 옵션

• 이 강좌의 사용자 정의 교육을 요청하려면, 문의하여 조정하세요.

중국 GPU 아키텍처인 Huawei Ascend, Biren, Cambricon MLU는 현지 AI 및 HPC 시장을 위한 CUDA 대안으로 제공됩니다.

이 강사는 온라인 또는 현장에서 진행되는 실시간 강의로, CUDA 애플리케이션을 중국 하드웨어 플랫폼에 배포하기 위해 기존 CUDA 애플리케이션을 마이그레이션하고 최적화하려는 고급 수준의 GPU 프로그래머와 인프라 전문가를 대상으로 합니다.

이 교육을 마치면 참가자들은 다음과 같은 작업을 수행할 수 있게 됩니다:

• 기존 CUDA 작업 부하가 중국 칩 대안과의 호환성을 평가합니다.
• CUDA 코드베이스를 Huawei CANN, Biren SDK, Cambricon BANGPy 환경으로 포팅합니다.
• 플랫폼 간 성능을 비교하고 최적화 지점을 식별합니다.
• 다양한 아키텍처를 지원하고 배포하는 데 있어 실질적인 도전 과제를 해결합니다.

강좌 형식

• 상호작용 강의 및 토론
• 코드 변환 및 성능 비교 실습
• 다중 GPU 적응 전략에 중점을 둔 유도 연습

강좌 맞춤화 옵션

• 플랫폼이나 CUDA 프로젝트에 맞춘 이 강좌에 대한 맞춤형 교육을 요청하려면, 연락을 취하여 조율하십시오.

아센드, 바이렌, 캄브리콘은 중국에서 선두를 다투는 AI 하드웨어 플랫폼으로, 각 플랫폼은 생산 규모의 AI 워크로드에 대한 고유한 가속화 및 프로파일링 도구를 제공합니다.

이 강사는 중국의 여러 AI 칩 플랫폼에서 모델 추론 및 학습 워크플로우를 최적화하려는 고급 AI 인프라 및 성능 엔지니어들을 대상으로 하는 인스트럭터 리드, 라이브 교육(온라인 또는 현장)입니다.

이 교육을 마친 후 참가자는 다음을 할 수 있게 됩니다:

• 아센드, 바이렌, 캄브리콘 플랫폼에서 모델을 벤치마킹합니다.
• 시스템 병목 현상과 메모리/컴퓨팅 효율성을 식별합니다.
• 그래프 수준, 커널 수준, 연산자 수준 최적화를 적용합니다.
• 배포 파이프라인을 튜닝하여 처리량과 지연 시간을 개선합니다.

강의 형식

• 상호작용 강의 및 토론.
• 각 플랫폼에서 프로파일링 및 최적화 도구를 사용하는 실습.
• 실제 튜닝 시나리오에 초점을 맞춘 안내된 연습.

강의 맞춤화 옵션

• 성과 환경 또는 모델 유형에 맞춰 이 강의에 대한 맞춤형 교육을 요청하려면, 성능 환경이나 모델 유형을 기반으로 맞춤형 교육을 신청하시려면 연락주세요.