GPU Programming - OpenCL vs CUDA vs ROCm 교육 과정

Huawei Ascend는 고성능 추론 및 학습을 위한 AI 프로세서 제품군입니다.

이 강사는 중간 수준의 AI 엔지니어와 데이터 과학자가 Huawei의 Ascend 플랫폼과 CANN 툴킷을 사용하여 신경망 모델을 개발하고 최적화할 수 있도록 돕습니다. 온라인 또는 현장 강의가 가능합니다.

이 교육을 통해 참가자들은 다음과 같은 능력을 갖추게 됩니다:

• CANN 개발 환경을 설정하고 구성합니다.
• MindSpore와 CloudMatrix 워크플로우를 사용하여 AI 애플리케이션을 개발합니다.
• 사용자 정의 연산자와 타일링을 사용하여 Ascend NPU에서 성능을 최적화합니다.
• 모델을 엣지 또는 클라우드 환경에 배포합니다.

수업 형식

• 상호작용을 위한 강의 및 토론.
• Huawei Ascend와 CANN 툴킷을 예제 애플리케이션에 적용하는 실습.
• 모델 빌딩, 학습 및 배포에 중점을 둔 안내 연습.

수업 맞춤화 옵션

• 인프라나 데이터셋에 맞춰 이 강의를 맞춤형으로 요청하려면, 연락처 주시기 바랍니다.

• CANN 아키텍처와 AI 배포 파이프라인에서 그 역할을 이해합니다.
• 인기 프레임워크에서 Ascend 호환 형식으로 모델을 변환하고 적응시킵니다.
• ATC, OM 모델 변환 및 MindSpore와 같은 도구를 사용하여 엣지와 클라우드 추론에 사용합니다.
• Ascend 하드웨어에서 배포 문제를 진단하고 성능을 최적화합니다.

강의 형식

• 대화형 강의 및 데모.
• CANN 도구와 Ascend 시뮬레이터 또는 기기를 사용하여 실습 실습.
• 실제 AI 모델을 기반으로 한 실제 배포 시나리오.

강의 맞춤화 옵션

• 이 강의를 맞춤화된 교육을 요청하려면 문의하여 조정하십시오.

Biren AI Accelerators are high-performance GPUs designed for AI and HPC workloads with support for large-scale training and inference.

This instructor-led, live training (online or onsite) is aimed at intermediate-level to advanced-level developers who wish to program and optimize applications using Biren’s proprietary GPU stack, with practical comparisons to CUDA-based environments.

By the end of this training, participants will be able to:

• Understand Biren GPU architecture and memory hierarchy.
• Set up the development environment and use Biren’s programming model.
• Translate and optimize CUDA-style code for Biren platforms.
• Apply performance tuning and debugging techniques.

Format of the Course

• Interactive lecture and discussion.
• Hands-on use of Biren SDK in sample GPU workloads.
• Guided exercises focused on porting and performance tuning.

Course Customization Options

• To request a customized training for this course based on your application stack or integration needs, please contact us to arrange.

Cambricon MLUs (Machine Learning 유닛)은 엣지 및 데이터 센터 시나리오에서 추론 및 학습을 위한 최적화된 전문 AI 칩입니다.

이 강사는 BANGPy 프레임워크와 Neuware SDK를 사용하여 Cambricon MLU 하드웨어에서 AI 모델을 구축하고 배포하고자 하는 중급 개발자를 대상으로 하는 온라인 또는 오프라인에서 진행되는 강의입니다.

이 강의가 끝나면 참가자들은 다음과 같은 작업을 할 수 있게 됩니다:

• BANGPy와 Neuware 개발 환경을 설정하고 구성합니다.
• Python 및 C++ 기반 모델을 Cambricon MLU에 개발하고 최적화합니다.
• Neuware 런타임을 실행하는 엣지 및 데이터 센터 장치에 모델을 배포합니다.
• MLU 특화 가속 기능을 사용한 ML 워크플로를 통합합니다.

강의 형식

• 상호작용 강의 및 토론.
• BANGPy와 Neuware를 개발 및 배포에 직접 사용하는 실습.
• 최적화, 통합 및 테스트에 중점을 둔 지도 연습.

강의 맞춤화 옵션

• 강의를 Cambricon 장치 모델 또는 사용 사례에 맞게 맞춤화한 교육을 요청하려면, 연락하여 조정을 신청하십시오.

• CANN 도구 키트의 목적과 아키텍처를 이해합니다.
• CANN와 MindSpore를 사용하여 개발 환경을 설정합니다.
• 간단한 AI 모델을 Ascend 하드웨어에 변환하고 배포합니다.
• 미래의 CANN 최적화 또는 통합 프로젝트를 위한 기초 지식을 습득합니다.

강좌 형식

• 대화형 강의 및 논의.
• 간단한 모델 배포를 위한 실습.
• CANN 도구 체인과 통합 지점을 단계별로 안내합니다.

강좌 맞춤화 옵션

• 이 강좌에 맞춘 맞춤형 교육을 요청하려면 문의하여 조치하세요.

화웨이의 Ascend CANN 툴킷은 Ascend 310과 같은 엣지 디바이스에서 강력한 AI 추론을 가능하게 합니다. CANN는 컴퓨팅 및 메모리가 제한된 환경에서 모델을 컴파일, 최적화 및 배포하기 위한 필수 도구를 제공합니다.

이 강사는 중간 수준의 AI 개발자 및 통합 전문가를 대상으로, Ascend 엣지 디바이스에서 CANN 도구 체인을 사용하여 모델을 배포하고 최적화하는 방법을 배우는 것을 목표로 합니다.

이 강의를 통해 참가자는 다음을 할 수 있게 됩니다:

• Ascend 310을 위한 AI 모델을 준비하고 CANN 도구를 사용하여 변환합니다.
• MindSpore Lite와 AscendCL을 사용하여 경량 추론 파이프라인을 구축합니다.
• 제한된 컴퓨팅 및 메모리 환경에서 모델 성능을 최적화합니다.
• 실제 엣지 사용 사례에서 AI 애플리케이션을 배포하고 모니터링합니다.

강의 형식

• 상호작용적인 강의 및 데모.
• 엣지 특정 모델과 시나리오를 위한 실습 작업.
• 가상 또는 물리적 엣지 하드웨어에서 라이브 배포 예제.

강의 맞춤화 옵션

• 이 강의를 맞춤화한 교육을 신청하려면, 맞춤화를 요청하기 위해 연락해 주십시오.

Huawei의 AI 스택 — CANN SDK에서 MindSpore 프레임워크까지 — Ascend 하드웨어에 최적화된 AI 개발 및 배포 환경을 제공합니다.

이 강사는 초급에서 중급 수준의 기술 전문가들을 대상으로, AI 라이프사이클 관리 및 인프라 결정 지원을 위한 CANN 및 MindSpore 구성 요소가 어떻게 협력하는지 이해하는 것을 목표로 합니다.

이 교육을 마친 후 참가자는 다음을 수행할 수 있습니다:

• Huawei의 AI 계산 스택의 계층 구조를 이해합니다.
• CANN가 모델 최적화 및 하드웨어 수준의 배포를 지원하는 방식을 확인합니다.
• 산업 대체재와 비교하여 MindSpore 프레임워크 및 도구 체인을 평가합니다.
• Huawei의 AI 스택을 엔터프라이즈 또는 클라우드/온프레미스 환경에 배치합니다.

과정 형식

• 대화형 강의 및 논의.
• 라이브 시스템 데모 및 사례 기반 워크스루.
• MindSpore에서 CANN로의 모델 흐름에 대한 선택적 가이드된 실험실.

과정 커스터마이징 옵션

• 이 과정을 위한 맞춤형 교육을 요청하려면, 커스터마이징을 위해 연락 주세요.

CANN SDK (Neural Networks 계산 아키텍처용)는 Ascend AI 프로세서에서 배포된 신경망의 성능을 미세 조정하고 최적화할 수 있도록 개발자에게 AI 계산 기반을 제공하는 화웨이의 솔루션입니다.

이 인스트럭터 리드 라이브 트레이닝(온라인 또는 오프라인)은 CANN의 고급 도구 세트를 사용하여 추론 성능을 최적화하고자 하는 고급 수준의 AI 개발자와 시스템 엔지니어를 대상으로 합니다. Graph Engine, TIK 및 사용자 정의 오퍼레이터 개발을 포함합니다.

이 트레이닝을 통해 참가자들은 다음을 할 수 있게 됩니다:

• CANN의 런타임 아키텍처와 성능 라이프사이클을 이해합니다.
• 성능 분석 및 최적화를 위해 프로파일링 도구와 Graph Engine을 사용합니다.
• TIK와 TVM을 사용하여 사용자 정의 오퍼레이터를 생성하고 최적화합니다.
• 메모리 병목 현상을 해결하고 모델 처리량을 개선합니다.

코스 형식

• 상호작용형 강의 및 토론.
• 실시간 프로파일링 및 오퍼레이터 조정 실습.
• 엣지 케이스 배포 예제를 사용하여 최적화 연습.

코스 맞춤화 옵션

• 이 코스에 대한 맞춤형 트레이닝을 요청하려면 연락 주세요.

CANN SDK (Neural Networks을 위한 컴퓨팅 아키텍처)는 특히 Huawei Ascend 하드웨어에서 실시간 AI 애플리케이션을 위한 컴퓨터 비전과 NLP를 위한 강력한 배포 및 최적화 도구를 제공합니다.

이 강사는 중급 수준의 AI 전문가가 CANN SDK를 사용하여 비전 및 언어 모델을 구축, 배포 및 최적화하여 생산 환경에서 사용할 수 있도록 하는 온라인 또는 오프라인 교육과정입니다.

이 교육을 통해 참가자는 다음을 할 수 있게 됩니다.

• CANN와 AscendCL을 사용하여 CV 및 NLP 모델을 배포 및 최적화합니다.
• CANN 도구를 사용하여 모델을 변환하고 라이브 파이프라인에 통합합니다.
• 탐지, 분류 및 감정 분석과 같은 작업을 위한 추론 성능을 최적화합니다.
• 엣지 또는 클라우드 기반 배포 시나리오를 위한 실시간 CV/NLP 파이프라인을 구축합니다.

강의 형식

• 상호작용 강의 및 데모.
• 모델 배포 및 성능 프로파일링을 위한 실습.
• 실제 CV 및 NLP 사용 사례를 사용하여 라이브 파이프라인 설계.

강의 맞춤화 옵션

• 이 강의를 위한 맞춤형 교육을 요청하려면 문의하여 조치해 주세요.

CANN TIK(Tensor Instruction Kernel)와 Apache TVM은 AI 모델 운영자의 고급 최적화 및 맞춤화를 위한 Huawei Ascend 하드웨어에 대해 가능하게 합니다.

이 강사는 고급 시스템 개발자들이 CANN의 TIK 프로그래밍 모델과 TVM 컴파일러 통합을 사용하여 AI 모델의 사용자 정의 연산자를 작성, 배포 및 튜닝하는 방법을 학습하는 데 초점을 맞춘, 온라인 또는 현장에서 직접 제공하는 실습형 라이브 교육입니다.

이 교육을 마치면 참가자들은 다음을 할 수 있게 됩니다:

• TIK DSL을 사용하여 Ascend 프로세서용 사용자 정의 AI 연산자를 작성하고 테스트합니다.
• CANN 런타임 및 실행 그래프에 사용자 정의 연산자를 통합합니다.
• 연산자 일정, 자동 조정 및 벤치마킹을 위해 TVM을 사용합니다.
• 사용자 정의 계산 패턴의 명령어 수준 성능을 디버그하고 최적화합니다.

코스의 형식

• 상호작용적인 강의와 시연.
• TIK 및 TVM 파이프라인을 사용하여 연산자의 실습 코딩.
• Ascend 하드웨어 또는 시뮬레이터에서 테스트 및 튜닝.

코스 맞춤화 옵션

• 이 코스의 맞춤형 교육을 요청하려면 교육을 조율하기 위해 문의하세요.

중국 GPU 아키텍처인 Huawei Ascend, Biren, Cambricon MLU는 현지 AI 및 HPC 시장을 위한 CUDA 대안으로 제공됩니다.

이 강사는 온라인 또는 현장에서 진행되는 실시간 강의로, CUDA 애플리케이션을 중국 하드웨어 플랫폼에 배포하기 위해 기존 CUDA 애플리케이션을 마이그레이션하고 최적화하려는 고급 수준의 GPU 프로그래머와 인프라 전문가를 대상으로 합니다.

이 교육을 마치면 참가자들은 다음과 같은 작업을 수행할 수 있게 됩니다:

• 기존 CUDA 작업 부하가 중국 칩 대안과의 호환성을 평가합니다.
• CUDA 코드베이스를 Huawei CANN, Biren SDK, Cambricon BANGPy 환경으로 포팅합니다.
• 플랫폼 간 성능을 비교하고 최적화 지점을 식별합니다.
• 다양한 아키텍처를 지원하고 배포하는 데 있어 실질적인 도전 과제를 해결합니다.

강좌 형식

• 상호작용 강의 및 토론
• 코드 변환 및 성능 비교 실습
• 다중 GPU 적응 전략에 중점을 둔 유도 연습

강좌 맞춤화 옵션

• 플랫폼이나 CUDA 프로젝트에 맞춘 이 강좌에 대한 맞춤형 교육을 요청하려면, 연락을 취하여 조율하십시오.

• Ascend, Biren, Cambricon 플랫폼에서 모델을 벤치마크할 수 있습니다.
• 시스템 병목 현상 및 메모리/계산 비효율성을 식별할 수 있습니다.
• 그래프 수준, 커널 수준, 그리고 연산자 수준 최적화를 적용할 수 있습니다.
• 처리량과 지연 시간을 향상시키기 위해 배포 파이프라인을 조정할 수 있습니다.

교육 형식

• 상호작용적인 강의와 토론.
• 각 플랫폼에서 프로파일링 및 최적화 도구를 직접 사용할 수 있습니다.
• 실제 튜닝 시나리오에 초점을 맞춘 안내된 연습.

교육 커스터마이징 옵션

• 성과 환경 또는 모델 유형에 따라 이 교육을 맞춤형으로 요청하려면, 커스터마이징을 조정하기 위해 문의하세요.