Stream Processing with Kafka Streams 교육 과정

대한민국에서 진행되는 이 실시간 교육(온라인 또는 현장)은 처리, 분석 등을 위해 Apache Kafka을 기존 데이터베이스 및 애플리케이션과 통합하려는 개발자를 대상으로 합니다.

이 교육이 끝나면 참가자는 다음을 수행할 수 있습니다.

• Kafka Connect를 사용하여 대량의 데이터를 데이터베이스에서 Kafka 토픽으로 가져옵니다.
• 애플리케이션 서버에서 생성된 로그 데이터를 Kafka 토픽으로 가져옵니다.
• Make 수집된 데이터를 스트림 처리할 수 있도록 합니다.
• Kafka 토픽에서 데이터를 보조 시스템으로 내보내어 저장 및 분석합니다.

Apache Beam은 병렬 데이터 처리 파이프라인을 정의하고 실행하기 위한 오픈 소스 통합 프로그래밍 모델입니다. 이 모델의 장점은 일괄 및 스트리밍 파이프라인을 모두 실행할 수 있는 기능이며, 실행은 Beam에서 지원하는 분산 처리 백엔드 중 하나인 Apache Apex, Apache Flink, Apache Spark, Google Cloud Dataflow에서 수행됩니다. Apache Beam은 다양한 저장 매체와 데이터 소스 간에 데이터를 이동하고, 데이터를 더 바람직한 형식으로 변환하고, 데이터를 새 시스템에 로드하는 것과 같은 ETL(추출, 변환 및 로드) 작업에 유용합니다.

강사가 진행하는 이 실시간 교육(현장 또는 원격)에서 참가자는 Java 또는 Python 애플리케이션에서 Apache Beam SDK를 구현하는 방법을 배우게 됩니다. 이 애플리케이션은 독립적이고 병렬적인 처리를 위해 큰 데이터 세트를 더 작은 청크로 분해하기 위한 데이터 처리 파이프라인을 정의합니다.

이 교육을 마치면 참가자는 다음을 수행할 수 있습니다.

• Apache Beam을 설치하고 구성합니다.
• Java 또는 Python 애플리케이션 내에서 일괄 처리와 스트림 처리를 모두 수행하기 위해 단일 프로그래밍 모델을 사용합니다.
• 여러 환경에서 파이프라인을 실행합니다.

과정 형식

• 일부 강의, 일부 토론, 연습 및 집중적인 실습

메모

• 이 과정은 추후에 Scala 제공될 예정입니다. 자세한 내용은 문의해주시기 바랍니다.

참가자는 다음을 수행할 수 있습니다.

• Confluent Platform 설치 및 구성.
• Confluent의 관리 도구 및 서비스를 사용하여 Kafka를 더 쉽게 실행.
• 들어오는 스트림 데이터를 저장하고 처리.
• Kafka 클러스터 최적화 및 관리.
• 데이터 스트림 보안.

형식

• 상호작용 강의 및 토론.
• 다양한 연습 및 실습.
• 라이브 랩 환경에서의 실습 구현.

코스 사용자 정의 옵션

• 이 코스는 오픈 소스 버전의 Confluent, 즉 Confluent Open Source를 기반으로 합니다.
• 이 코스에 대한 맞춤형 교육을 요청하려면, 맞춤형 교육을 안배하려면 연락 주세요.

Apache Kafka 는 분산 형 스트리밍 플랫폼입니다. 데이터 파이프 라인을 구축하기위한 사실상의 표준이며 데이터 처리와 관련하여 다양한 유스 케이스를 해결합니다. 메시지 대기열, 분산 된 로그, 스트림 프로세서 등으로 사용될 수 있습니다.

우리는 일반적으로 데이터 파이프 라인 뒤에있는 이론부터 시작하여 카프카의 기본 개념을 계속 사용합니다. Kafka Streams 및 Kafka Connect와 같은 중요한 구성 요소도 발견 할 것입니다.

대한민국에서 강사가 진행하는 이 실시간 교육(온라인 또는 현장)에서는 분산 스트림 및 일괄 데이터 처리의 원리와 접근 방식을 소개하고 참가자에게 Apache Flink에서 실시간 데이터 스트리밍 애플리케이션을 만드는 방법을 안내합니다.

이 교육을 마치면 참가자는 다음을 수행할 수 있습니다.

• 데이터 분석 애플리케이션을 개발하기 위한 환경을 설정합니다.
• Apache Flink의 그래프 처리 라이브러리(Gelly)가 어떻게 작동하는지 이해해 보세요.
• Flink 기반의 내결함성 데이터 스트리밍 애플리케이션을 패키징, 실행 및 모니터링합니다.
• 다양한 업무량을 관리합니다.
• 고급 분석을 수행합니다.
• 다중 노드 Flink 클러스터를 설정합니다.
• 성과를 측정하고 최적화합니다.
• 다양한 Big Data 시스템과 Flink를 통합합니다.
• Flink의 기능을 다른 빅데이터 처리 프레임워크의 기능과 비교해보세요.

강사가 진행하는 이 대한민국 실시간 교육(현장 또는 원격)에서 참가자는 다양한 Stream Processing 프레임워크를 기존 빅 데이터 스토리지 시스템과 관련 소프트웨어 애플리케이션 및 마이크로서비스로 설정하고 통합하는 방법을 배우게 됩니다.

이 교육이 끝나면 참가자는 다음을 수행할 수 있습니다.

• Spark Streaming 및 Kafka Streaming과 같은 다양한 Stream Processing 프레임워크를 설치하고 구성합니다.
• 업무에 가장 적합한 프레임워크를 이해하고 선택하세요.
• 연속적으로, 동시에, 기록별로 데이터를 처리합니다.
• Stream Processing 솔루션을 기존 데이터베이스, 데이터 웨어하우스, 데이터 레이크 등과 통합합니다.
• 가장 적합한 스트림 처리 라이브러리를 엔터프라이즈 애플리케이션 및 마이크로서비스와 통합합니다.

이 과정은 엔터프라이즈 설계자, 개발자, 시스템 관리자 및 높은 처리량의 분산 메시징 시스템을 이해하고 사용하려는 모든 사용자를 대상으로합니다. 보다 구체적인 요구 사항 (예 : 시스템 관리 측면)이있는 경우,이 과정은 요구 사항에 더 잘 맞출 수 있습니다.

대한민국에서 진행되는 이 실시간 교육(온라인 또는 현장)은 Python을 통해 데이터 스트리밍에서 Apache Kafka 기능을 사용하려는 데이터 엔지니어, 데이터 과학자 및 프로그래머를 대상으로 합니다.

이 교육이 끝나면 참가자는 Apache Kafka을 사용하여 Python 프로그래밍을 사용하여 연속 데이터 스트림의 상태를 모니터링하고 관리할 수 있습니다.

대한민국에서 강사가 진행하는 이 실시간 교육(온라인 또는 현장)은 코드를 작성하지 않고 Apache Kafka 스트림 처리를 구현하려는 개발자를 대상으로 합니다.

이 교육을 마치면 참가자는 다음을 수행할 수 있습니다.

• Confluent KSQL를 설치하고 구성합니다.
• SQL개의 명령만 사용하여 스트림 처리 파이프라인을 설정합니다(Java 또는 Python 코딩 없음).
• SQL에서 데이터 필터링, 변환, 집계, 조인, 윈도잉 및 세션화를 전체적으로 수행합니다.
• 스트리밍 ETL 및 실시간 분석을 위한 대화형 연속 쿼리를 설계하고 배포합니다.

대한민국(현장 또는 원격)에서 강사가 진행하는 이 실시간 교육에서 참가자는 실시간 랩 환경에서 Apache NiFi을 배포하고 관리하는 방법을 배웁니다.

이 교육을 마치면 참가자는 다음을 수행할 수 있습니다.

• Apachi NiFi를 설치하고 구성합니다.
• 데이터베이스와 빅데이터 레이크를 포함한 다양한 분산 데이터 소스에서 데이터를 수집, 변환 및 관리합니다.
• 데이터 흐름을 자동화합니다.
• 스트리밍 분석을 활성화합니다.
• 데이터 수집에 다양한 접근 방식을 적용합니다.
• Big Data을 비즈니스 통찰력으로 변환합니다.

대한민국에서 강사가 진행하는 이 실시간 교육에서 참가자는 Apache NiFi을 사용하여 다양한 데모 확장, 구성 요소 및 프로세서를 개발하면서 흐름 기반 프로그래밍의 기본 사항을 학습하게 됩니다.

이 교육을 마치면 참가자는 다음을 수행할 수 있습니다.

• NiFi의 아키텍처와 데이터 흐름 개념을 이해합니다.
• NiFi와 타사 API를 사용하여 확장 기능을 개발합니다.
• Apache Nifi 프로세서를 자체적으로 맞춤 개발합니다.
• 다양하고 흔하지 않은 파일 형식과 데이터 소스에서 실시간 데이터를 수집하고 처리합니다.

대한민국에서 진행되는 이 실시간 교육(온라인 또는 현장)은 실시간 데이터 처리 및 분석에 Spark Streaming 기능을 사용하려는 데이터 엔지니어, 데이터 과학자 및 프로그래머를 대상으로 합니다.

이 교육이 끝나면 참가자는 Spark Streaming을 사용하여 데이터베이스, 파일 시스템 및 라이브 대시보드에서 사용할 라이브 데이터 스트림을 처리할 수 있습니다.

대한민국에서 진행되는 이 실시간 교육(온라인 또는 현장)은 Spring Cloud, Kafka, Docker, Kubernetes 및 Redis를 사용하여 기존 아키텍처를 동시성 마이크로서비스 기반 아키텍처로 전환하려는 개발자를 대상으로 합니다.

이 교육이 끝나면 참가자는 다음을 수행할 수 있습니다.

• 마이크로서비스 구축에 필요한 개발 환경을 설정합니다.
• Spring Cloud, Kafka, Redis, Docker 및 Kubernetes를 사용하여 동시성이 높은 마이크로서비스 생태계를 설계하고 구현합니다.
• 모놀리식 및 SOA 서비스를 마이크로서비스 기반 아키텍처로 전환합니다.
• 소프트웨어 개발, 테스트, 출시에 DevOps 접근 방식을 채택합니다.
• 프로덕션에서 마이크로서비스 간의 높은 동시성을 보장합니다.
• 마이크로서비스를 모니터링하고 복구 전략을 구현합니다.
• 성능 튜닝을 수행합니다.
• 마이크로서비스 아키텍처의 미래 동향에 대해 알아보세요.