대한민국 Stream processing 과정

Confluent Apache Kafka는 Apache Kafka를 기반으로 한 기업급 분산 이벤트 스트리밍 플랫폼입니다. 고처리량, 고가용성 데이터를 지원하며, 실시간 스트리밍 애플리케이션을 구축할 수 있습니다.

이 온라인 또는 오프라인 강의는 Confluent Kafka 클러스터를 프로덕션 환경에 배포, 구성 및 최적화하고자 하는 중간 수준의 엔지니어와 관리자를 대상으로 합니다.

이 강의를 마친 후, 참가자는 다음과 같은 능력을 갖게 됩니다:

• 다중 브로커를 사용하는 Confluent Kafka 클러스터를 설치, 구성 및 운영합니다.
• Zookeeper와 복제 기술을 사용하여 고가용성 설정을 설계합니다.
• 성능을 튜닝하고, 메트릭을 모니터링하며, 복구 전략을 적용합니다.
• Kafka를 기업 환경에 보안, 확장, 통합합니다.

강의 형식

• 대화형 강의 및 토론.
• 많은 연습과 실습.
• 라이브-랩 환경에서의 실제 구현.

강의 맞춤화 옵션

• 이 강의를 맞춤화한 교육을 요청하려면, 주문하기를 위해 연락 주세요.

Confluent Apache Kafka은 고성능, 장애 허용 데이터 파이프라인 및 실시간 분석을 위해 설계된 분산 이벤트 스트리밍 플랫폼입니다.

이 강사는 중급 시스템 관리자와 DevOps 전문가가 Confluent Apache Kafka 클러스터를 설치, 구성, 모니터링 및 문제 해결할 수 있도록 온라인 또는 현장 강의로 진행됩니다.

이 강의가 끝나면 참가자는 다음과 같은 능력을 갖게 됩니다:

• Confluent Kafka의 구성 요소와 아키텍처를 이해합니다.
• Kafka 브로커, Zookeeper 쿼럼 및 주요 서비스를 배포 및 관리합니다.
• 보안, 복제 및 성능 튜닝을 포함한 고급 기능을 구성합니다.
• 관리 도구를 사용하여 Kafka 클러스터를 모니터링하고 유지 관리합니다.

강의 형식

• 상호작용 강의 및 토론.
• 다양한 연습과 실습.
• 실습 환경에서 직접 구현.

강의 맞춤화 옵션

• 이 강의를 맞춤화된 교육으로 요청하려면 연락 주시기 바랍니다.

Apache Beam은 병렬 데이터 처리 파이프라인을 정의하고 실행하기 위한 오픈 소스 통합 프로그래밍 모델입니다. 이 모델의 장점은 일괄 및 스트리밍 파이프라인을 모두 실행할 수 있는 기능이며, 실행은 Beam에서 지원하는 분산 처리 백엔드 중 하나인 Apache Apex, Apache Flink, Apache Spark, Google Cloud Dataflow에서 수행됩니다. Apache Beam은 다양한 저장 매체와 데이터 소스 간에 데이터를 이동하고, 데이터를 더 바람직한 형식으로 변환하고, 데이터를 새 시스템에 로드하는 것과 같은 ETL(추출, 변환 및 로드) 작업에 유용합니다.

강사가 진행하는 이 실시간 교육(현장 또는 원격)에서 참가자는 Java 또는 Python 애플리케이션에서 Apache Beam SDK를 구현하는 방법을 배우게 됩니다. 이 애플리케이션은 독립적이고 병렬적인 처리를 위해 큰 데이터 세트를 더 작은 청크로 분해하기 위한 데이터 처리 파이프라인을 정의합니다.

이 교육을 마치면 참가자는 다음을 수행할 수 있습니다.

• Apache Beam을 설치하고 구성합니다.
• Java 또는 Python 애플리케이션 내에서 일괄 처리와 스트림 처리를 모두 수행하기 위해 단일 프로그래밍 모델을 사용합니다.
• 여러 환경에서 파이프라인을 실행합니다.

과정 형식

• 일부 강의, 일부 토론, 연습 및 집중적인 실습

메모

• 이 과정은 추후에 Scala 제공될 예정입니다. 자세한 내용은 문의해주시기 바랍니다.

참가자는 다음을 수행할 수 있습니다.

• Confluent Platform 설치 및 구성.
• Confluent의 관리 도구 및 서비스를 사용하여 Kafka를 더 쉽게 실행.
• 들어오는 스트림 데이터를 저장하고 처리.
• Kafka 클러스터 최적화 및 관리.
• 데이터 스트림 보안.

형식

• 상호작용 강의 및 토론.
• 다양한 연습 및 실습.
• 라이브 랩 환경에서의 실습 구현.

코스 사용자 정의 옵션

• 이 코스는 오픈 소스 버전의 Confluent, 즉 Confluent Open Source를 기반으로 합니다.
• 이 코스에 대한 맞춤형 교육을 요청하려면, 맞춤형 교육을 안배하려면 연락 주세요.

대한민국에서 강사가 진행하는 이 실시간 교육(온라인 또는 현장)에서는 분산 스트림 및 일괄 데이터 처리의 원리와 접근 방식을 소개하고 참가자에게 Apache Flink에서 실시간 데이터 스트리밍 애플리케이션을 만드는 방법을 안내합니다.

이 교육을 마치면 참가자는 다음을 수행할 수 있습니다.

• 데이터 분석 애플리케이션을 개발하기 위한 환경을 설정합니다.
• Apache Flink의 그래프 처리 라이브러리(Gelly)가 어떻게 작동하는지 이해해 보세요.
• Flink 기반의 내결함성 데이터 스트리밍 애플리케이션을 패키징, 실행 및 모니터링합니다.
• 다양한 업무량을 관리합니다.
• 고급 분석을 수행합니다.
• 다중 노드 Flink 클러스터를 설정합니다.
• 성과를 측정하고 최적화합니다.
• 다양한 Big Data 시스템과 Flink를 통합합니다.
• Flink의 기능을 다른 빅데이터 처리 프레임워크의 기능과 비교해보세요.

강사가 진행하는 이 대한민국 실시간 교육(현장 또는 원격)에서 참가자는 다양한 Stream Processing 프레임워크를 기존 빅 데이터 스토리지 시스템과 관련 소프트웨어 애플리케이션 및 마이크로서비스로 설정하고 통합하는 방법을 배우게 됩니다.

이 교육이 끝나면 참가자는 다음을 수행할 수 있습니다.

• Spark Streaming 및 Kafka Streaming과 같은 다양한 Stream Processing 프레임워크를 설치하고 구성합니다.
• 업무에 가장 적합한 프레임워크를 이해하고 선택하세요.
• 연속적으로, 동시에, 기록별로 데이터를 처리합니다.
• Stream Processing 솔루션을 기존 데이터베이스, 데이터 웨어하우스, 데이터 레이크 등과 통합합니다.
• 가장 적합한 스트림 처리 라이브러리를 엔터프라이즈 애플리케이션 및 마이크로서비스와 통합합니다.

대한민국에서 진행되는 이 실시간 교육(온라인 또는 현장)은 Python을 통해 데이터 스트리밍에서 Apache Kafka 기능을 사용하려는 데이터 엔지니어, 데이터 과학자 및 프로그래머를 대상으로 합니다.

이 교육이 끝나면 참가자는 Apache Kafka을 사용하여 Python 프로그래밍을 사용하여 연속 데이터 스트림의 상태를 모니터링하고 관리할 수 있습니다.

Kafka Streams는 카프카 (Cafka) 메시징 시스템으로 데이터를주고받는 마이크로 애플리케이션을 구축하기위한 클라이언트 측 라이브러리입니다. 전통적으로 Apache Kafka 는 메시지 생성자와 소비자 간의 데이터를 처리하기 위해 Apache Spark 또는 Apache Storm 에 의존했습니다. 응용 프로그램 내에서 Kafka Streams API를 호출하면 Kafka 내에서 직접 데이터를 처리 할 수 있으므로 처리를 위해 별도의 클러스터로 데이터를 전송할 필요가 없습니다.

강사가 진행하는이 실습에서는 Kafka Streams를 스트림 처리를 위해 Apache Kafka 와 데이터를주고받는 샘플 Java 응용 프로그램 세트에 Kafka Streams를 통합하는 방법을 배우게됩니다.

이 훈련이 끝나면 참가자는 다음을 할 수 있습니다.

• Kafka Streams의 기능과 다른 스트림 처리 프레임워크에 비해 장점을 이해합니다
• Kafka 클러스터 내에서 스트림 데이터를 직접 처리합니다
• Kafka와 Kafka Streams와 통합된 Java 또는 Scala 애플리케이션 또는 마이크로 서비스를 작성합니다
• 입력 Kafka 토픽을 출력 Kafka 토픽으로 변환하는 간결한 코드를 작성합니다
• 애플리케이션을 빌드, 패키징하고 배포합니다

청중

• 개발자

강의 형식

• 강의, 토론, 연습 및 많은 실습을 포함합니다

노트

• 이 강의를 위한 맞춤형 교육을 요청하려면 연락하여 조율하세요

대한민국에서 강사가 진행하는 이 실시간 교육(온라인 또는 현장)은 코드를 작성하지 않고 Apache Kafka 스트림 처리를 구현하려는 개발자를 대상으로 합니다.

이 교육을 마치면 참가자는 다음을 수행할 수 있습니다.

• Confluent KSQL를 설치하고 구성합니다.
• SQL개의 명령만 사용하여 스트림 처리 파이프라인을 설정합니다(Java 또는 Python 코딩 없음).
• SQL에서 데이터 필터링, 변환, 집계, 조인, 윈도잉 및 세션화를 전체적으로 수행합니다.
• 스트리밍 ETL 및 실시간 분석을 위한 대화형 연속 쿼리를 설계하고 배포합니다.

대한민국(현장 또는 원격)에서 강사가 진행하는 이 실시간 교육에서 참가자는 실시간 랩 환경에서 Apache NiFi을 배포하고 관리하는 방법을 배웁니다.

이 교육을 마치면 참가자는 다음을 수행할 수 있습니다.

• Apachi NiFi를 설치하고 구성합니다.
• 데이터베이스와 빅데이터 레이크를 포함한 다양한 분산 데이터 소스에서 데이터를 수집, 변환 및 관리합니다.
• 데이터 흐름을 자동화합니다.
• 스트리밍 분석을 활성화합니다.
• 데이터 수집에 다양한 접근 방식을 적용합니다.
• Big Data을 비즈니스 통찰력으로 변환합니다.

대한민국에서 강사가 진행하는 이 실시간 교육에서 참가자는 Apache NiFi을 사용하여 다양한 데모 확장, 구성 요소 및 프로세서를 개발하면서 흐름 기반 프로그래밍의 기본 사항을 학습하게 됩니다.

이 교육을 마치면 참가자는 다음을 수행할 수 있습니다.

• NiFi의 아키텍처와 데이터 흐름 개념을 이해합니다.
• NiFi와 타사 API를 사용하여 확장 기능을 개발합니다.
• Apache Nifi 프로세서를 자체적으로 맞춤 개발합니다.
• 다양하고 흔하지 않은 파일 형식과 데이터 소스에서 실시간 데이터를 수집하고 처리합니다.

대한민국에서 진행되는 이 실시간 교육(온라인 또는 현장)은 실시간 데이터 처리 및 분석에 Spark Streaming 기능을 사용하려는 데이터 엔지니어, 데이터 과학자 및 프로그래머를 대상으로 합니다.

이 교육이 끝나면 참가자는 Spark Streaming을 사용하여 데이터베이스, 파일 시스템 및 라이브 대시보드에서 사용할 라이브 데이터 스트림을 처리할 수 있습니다.