데이터 파이프라인 Spark NLP로 확장 교육 과정

이 온라인 또는 현장에서 진행되는 강사 지도형 라이브 교육은 중간 수준의 데이터 과학자 및 엔지니어가 빅데이터 처리 및 분석을 위해 Google Colab과 Apache Spark을 사용하고자 할 때 대상입니다.

이 교육을 마친 후 참가자는 다음과 같은 능력을 갖출 것입니다.

• Google Colab과 Spark를 사용하여 빅데이터 환경을 설정합니다.
• Apache Spark로 대용량 데이터를 효율적으로 처리하고 분석합니다.
• 협업 환경에서 빅데이터를 시각화합니다.
• Apache Spark을 클라우드 기반 도구와 통합합니다.

빅 데이터 분석은 상관 관계, 숨겨진 패턴 및 기타 유용한 통찰력을 발굴하기 위해 대량의 다양한 데이터 세트를 검사하는 프로세스를 필요로합니다.

보건 산업은 복잡한 이기종 의학 및 임상 데이터를 가지고 있습니다. 건강 데이터에 큰 데이터 분석을 적용하면 건강 관리 제공 개선에 대한 통찰력을 얻는 데 큰 잠재력이 있습니다. 그러나 이러한 데이터 세트의 엄청난 양은 임상 환경에 대한 분석 및 실제 응용에 큰 문제를 제기합니다.

이 강사 주도의 실시간 교육 (원격)에서는 참가자가 실습 랩 연습을 단계별로 수행하면서 건강에 큰 데이터 분석을 수행하는 방법을 배웁니다.

이 훈련이 끝나면 참가자는 다음을 할 수 있습니다.

• Hadoop MapReduce 및 Spark와 같은 대규모 데이터 분석 도구 설치 및 구성
• 의료 데이터의 특성 이해
• 큰 데이터 기술을 적용하여 의료 데이터 처리
• 건강 응용 프로그램의 맥락에서 큰 데이터 시스템과 알고리즘 연구

청중

• 개발자
• 데이터 과학자

코스 형식

• 파트 강의, 파트 토론, 연습 및 무거운 실습.

노트

• 이 과정에 대한 맞춤 교육을 요청하려면 Google에 문의하여 준비하십시오.

대한민국에서 진행되는 이 실시간 교육(온라인 또는 현장)은 조직 내에서 Hadoop 클러스터를 설정, 배포 및 관리하는 방법을 배우려는 시스템 관리자를 대상으로 합니다.

이 교육이 끝나면 참가자는 다음을 수행할 수 있습니다.

• Apache Hadoop을 설치하고 구성합니다.
• Hadoop 생태계의 네 가지 주요 구성 요소인 HDFS, MapReduce, YARN 및 Hadoop Common을 이해합니다.
• HDFS(Hadoop 분산 파일 시스템)를 사용하여 클러스터를 수백 또는 수천 개의 노드로 확장합니다.
• 온프레미스 Spark 배포를 위한 스토리지 엔진으로 작동하도록 HDFS를 설정합니다.
• Redis, Elasticsearch, Couchbase, Aerospike 등과 같은 Amazon S3 및 NoSQL 데이터베이스 시스템과 같은 대체 스토리지 솔루션에 액세스하도록 Spark를 설정하십시오.
• Apache Hadoop 클러스터 프로비저닝, 관리, 모니터링 및 보안과 같은 관리 작업을 수행합니다.

In this instructor-led, live training in 대한민국 (onsite or remote), participants will learn how to set up and integrate different Stream Processing frameworks with existing big data storage systems and related software applications and microservices.

By the end of this training, participants will be able to:

• Install and configure different Stream Processing frameworks, such as Spark Streaming and Kafka Streaming.
• Understand and select the most appropriate framework for the job.
• Process of data continuously, concurrently, and in a record-by-record fashion.
• Integrate Stream Processing solutions with existing databases, data warehouses, data lakes, etc.
• Integrate the most appropriate stream processing library with enterprise applications and microservices.

대한민국에서 진행되는 이 실시간 교육(온라인 또는 현장)은 SMACK 스택을 사용하여 빅 데이터 솔루션용 데이터 처리 플랫폼을 구축하려는 데이터 과학자를 대상으로 합니다.

이 교육이 끝나면 참가자는 다음을 수행할 수 있습니다.

• 빅데이터 처리를 위한 데이터 파이프라인 아키텍처를 구현합니다.
• Apache Mesos 및 Docker를 사용하여 클러스터 인프라를 개발합니다.
• Spark 및 Scala을 사용하여 데이터를 분석합니다.
• Apache Cassandra를 사용하여 구조화되지 않은 데이터를 관리하세요.

대한민국에서 진행되는 이 실시간 교육(온라인 또는 현장)은 매우 많은 양의 데이터를 처리하기 위해 Apache Spark 시스템을 설정하고 배포하려는 엔지니어를 대상으로 합니다.

이 교육이 끝나면 참가자는 다음을 수행할 수 있습니다.

• Apache Spark를 설치하고 구성합니다.
• 매우 큰 데이터 세트를 신속하게 처리하고 분석합니다.
• Apache Spark와 Hadoop MapReduce의 차이점과 언제 어느 것을 사용해야 하는지 이해합니다.
• Apache Spark를 다른 기계 학습 도구와 통합합니다.

대한민국에서 진행되는 이 실시간 교육(온라인 또는 현장)은 Spark 클러스터를 배포, 유지 관리 및 최적화하려는 초급 및 중급 시스템 관리자를 대상으로 합니다.

이 교육이 끝나면 참가자는 다음을 수행할 수 있습니다.

• 다양한 환경에서 Apache Spark을 설치하고 구성합니다.
• 클러스터 리소스를 관리하고 Spark 애플리케이션을 모니터링합니다.
• Spark 클러스터의 성능을 최적화합니다.
• 보안 조치를 구현하고 고가용성을 보장합니다.
• 일반적인 Spark 문제를 디버그하고 해결합니다.

Apache Spark 의 학습 곡선은 처음에 천천히 증가하고 있습니다. 첫 번째 수익을 얻으려면 많은 노력이 필요합니다. 이 과정은 첫 힘든 부분을 뛰어 넘는 것을 목표로합니다. 이 과정을 수강 한 참가자는 Apache Spark 의 기본 사항을 이해하고, RDD를 DataFrame과 명확하게 구분하고, Python 및 Scala API를 배우며, 실행 프로그램 및 작업 등을 이해합니다. 또한 우수 사례에 따라 강의에 중점을 둡니다. 클라우드 배포, Databricks 및 AWS. 학생들은 또한 AWS의 최신 Spark 서비스 중 하나 인 AWS EMR과 AWS Glue의 차이점을 이해합니다.

청중:

데이터 엔지니어, DevOps , 데이터 과학자

목표:

이 과정은 Apache Spark 를 소개합니다. 학생들은 Spark가 Big Data 생태계에 어떻게 적용되는지, 그리고 데이터 분석에 Spark를 사용하는 방법을 배우게됩니다. 이 과정은 대화식 데이터 분석, Spark 내부, Spark API, Spark SQL , Spark 스트리밍, 기계 학습 및 graphX를위한 Spark 셸을 다룹니다.

오디언스 :

개발자 / 데이터 분석가

이 강사가 진행하는 대한민국 실시간 교육에서 참가자는 실습을 하면서 Python와 Spark를 함께 사용하여 빅 데이터를 분석하는 방법을 배웁니다.

이 교육이 끝나면 참가자는 다음을 수행할 수 있습니다.

• Python와 함께 Spark를 사용하여 Big Data을 분석하는 방법을 알아보세요.
• 실제 사례를 모방한 연습을 해보세요.
• PySpark을 사용하여 빅데이터 분석을 위한 다양한 도구와 기술을 사용합니다.

대한민국에서 진행되는 이 실시간 교육(온라인 또는 현장)은 Spark Hadoop 및 Python를 사용하고 통합하여 크고 복잡한 데이터 세트를 처리, 분석 및 변환하려는 개발자를 대상으로 합니다.

이 교육이 끝나면 참가자는 다음을 수행할 수 있습니다.

• Spark, Hadoop, Python를 사용하여 빅데이터 처리를 시작하는 데 필요한 환경을 설정합니다.
• Spark 및 Hadoop의 기능, 핵심 구성 요소 및 아키텍처를 이해합니다.
• 빅 데이터 처리를 위해 Spark, Hadoop 및 Python를 통합하는 방법을 알아보세요.
• Spark 에코시스템(Spark MlLib, Spark Streaming, Kafka, Sqoop, Kafka 및 Flume)의 도구를 살펴보세요.
• Netflix, YouTube, Amazon, Spotify 및 Google과 유사한 협업 필터링 추천 시스템을 구축하세요.
• Apache Mahout을 사용하여 기계 학습 알고리즘을 확장합니다.

Spark SQL 은 구조화 된 데이터와 구조화되지 않은 데이터로 작업하는 Apache Spark 의 모듈입니다. Spark SQL 은 수행되는 계산뿐 아니라 데이터의 구조에 대한 정보를 제공합니다. 이 정보는 최적화를 수행하는 데 사용될 수 있습니다. Spark SQL 두 가지 일반적인 용도는 다음과 같습니다.
- SQL 쿼리를 실행합니다.
- 기존 Hive 설치에서 데이터를 읽습니다.

이 강사가 진행하는 실습 (현장 또는 원격)에서 참가자는 Spark SQL 사용하여 다양한 유형의 데이터 세트를 분석하는 방법을 학습합니다.

이 훈련이 끝나면 참가자는 다음을 할 수 있습니다.

• Spark SQL 설치하고 구성하십시오.
• Spark SQL 사용하여 데이터 분석을 수행하십시오.
• 서로 다른 형식의 데이터 집합을 쿼리합니다.
• 데이터 및 쿼리 결과를 시각화합니다.

코스 형식

• 대화 형 강의 및 토론.
• 많은 연습과 연습.
• 라이브 랩 환경에서 실제 구현.

코스 사용자 정의 옵션

• 이 과정에 대한 맞춤 교육을 요청하려면 Google에 문의하여 준비하십시오.

Stratio는 빅데이터, AI, 그리고 가버넌스를 단일 솔루션으로 통합하는 데이터 중심 플랫폼입니다. Rocket과 Intelligence 모듈은 기업 환경에서 빠르게 데이터 탐색, 변환 및 고급 분석을 가능하게 합니다.이 인스트럭터 주도형 실시간 교육(온라인 또는 현장)은 PySpark를 사용하여 Stratio의 Rocket과 Intelligence 모듈을 효과적으로 활용하고자 하는 중급 데이터 전문가를 대상으로 하며, 반복 구조, 사용자 정의 함수 및 고급 데이터 논리 등에 중점을 둡니다.이 교육을 마치면 참가자는 다음을 할 수 있게 됩니다:- Rocket과 Intelligence 모듈을 사용하여 Stratio 플랫폼에서 탐색하고 작업합니다.- 데이터 수집, 변환 및 분석에서 PySpark를 적용합니다.- 데이터 워크플로우 및 피처 엔지니어링 작업을 제어하기 위해 반복 및 조건부 논리를 사용합니다.- PySpark에서 재사용 가능한 데이터 작업을 위한 사용자 정의 함수(UDFs)를 생성하고 관리합니다.과정 형식- 상호작용 강의 및 토론- 많은 연습 문제 및 실습- 라이브-랩 환경에서 직접 실습과정 맞춤화 옵션- 이 과정에 맞춘 맞춤형 교육을 요청하려면, 협의하기 위해 연락 주시기 바랍니다.