Data pipelines typically fall under one of the Extra-Load, Extract-Load-Transform or Extract-Transform-Load paradigms. This course describes which paradigm should be used and when for batch data. Furthermore, this course covers several technologies on Google Cloud Platform for data transformation including BigQuery, executing Spark on Cloud Dataproc, pipeline graphs in Cloud Data Fusion and serverless data processing with Cloud Dataflow. Learners will get hands-on experience building data pipeline components on Google Cloud Platform using QwikLabs.
Building Batch Data Pipelines on GCP
от партнера
Google Cloud
Об этом курсе
Недавно просмотрено: 16,460
100% онлайн
Начните сейчас и учитесь по собственному графику.
Гибкие сроки
Назначьте сроки сдачи в соответствии со своим графиком.
Промежуточный уровень
Прибл. 12 часа на выполнение
Предполагаемая нагрузка: 27 hours/week
Английский
Субтитры: Английский
Программа курса: что вы изучите
5 минуты на завершение
Introduction
In this module, we introduce the course and agenda
5 минуты на завершение
2 видео ((всего 5 мин.))
1 ч. на завершение
Introduction to Batch Data Pipelines
This module reviews different methods of data loading: EL, ELT and ETL and when to use what
1 ч. на завершение
5 видео ((всего 18 мин.)), 1 тест
5 видео
EL, ELT, ETL4мин
Quality considerations1мин
How to carry out operations in BigQuery3мин
Shortcomings3мин
ETL to solve data quality issues4мин
1 практическое упражнение
EL, ELT, ETL30мин
2 ч. на завершение
Executing Spark on Cloud Dataproc
This module shows how to run Hadoop on Cloud Dataproc, how to leverage GCS, and how to optimize your Dataproc jobs.
2 ч. на завершение
9 видео ((всего 49 мин.)), 2 тестов
9 видео
Running Hadoop on Cloud Dataproc10мин
GCS instead of HDFS6мин
Optimizing Dataproc5мин
Optimizing Dataproc Storage9мин
Optimizing Dataproc Templates and Autoscaling4мин
Optimizing Dataproc Monitoring3мин
Lab Intro: Running Apache Spark jobs on Cloud Dataproc27
Summary31
1 практическое упражнение
Executing Spark on Cloud Dataproc4мин
3 ч. на завершение
Manage Data Pipelines with Cloud Data Fusion and Cloud Composer
This module shows how to manage data pipelines with Cloud Data Fusion and Cloud Composer.
3 ч. на завершение
11 видео ((всего 45 мин.)), 3 тестов
11 видео
Introduction7мин
Components of Data Fusion2мин
Building a Pipeline6мин
Exploring Data using Wrangler1мин
Lab: Building and executing a pipeline graph in Cloud Data Fusion17
Orchestrating work between GCP services with Cloud Composer1мин
Apache Airflow Environment1мин
DAGs and Operators12мин
Workflow scheduling6мин
Monitoring and Logging4мин
Lab: An Introduction to Cloud Composer12
1 практическое упражнение
Cloud Data Fusion and Cloud Composer30мин
7 ч. на завершение
Serverless Data Processing with Cloud Dataflow
This module covers using Cloud Dataflow to build your data processing pipelines
7 ч. на завершение
12 видео ((всего 40 мин.)), 7 тестов
12 видео
Cloud Dataflow8мин
Why customers value Dataflow3мин
Building Cloud Dataflow Pipelines in code3мин
Key considerations with designing pipelines2мин
Transforming data with PTransforms3мин
Lab: Building a Simple Dataflow Pipeline17
Aggregating with GroupByKey and Combine7мин
Lab: MapReduce in Cloud Dataflow18
Side Inputs and Windows of data4мин
Lab: Practicing Pipeline Side Inputs11
Creating and re-using Pipeline Templates3мин
Cloud Dataflow SQL pipelines3мин
1 практическое упражнение
Data Processing with Cloud Dataflow30мин
4 минуты на завершение
Summary
This module reviews the topics covered in this course
4 минуты на завершение
1 видео ((всего 4 мин.))
1 видео
Course Summary4мин
О Google Cloud
We help millions of organizations empower their employees, serve their customers, and build what’s next for their businesses with innovative technology created in—and for—the cloud. Our products are engineered for security, reliability, and scalability, running the full stack from infrastructure to applications to devices and hardware. Our teams are dedicated to helping customers apply our technologies to create success.
Часто задаваемые вопросы
Можно ли ознакомиться с курсом до регистрации?
Да, до регистрации можно просмотреть первое видео и программу курса. Чтобы получить полный доступ к материалам курса, необходимо оплатить его.
Когда я получу доступ к лекциям и заданиям?
Регистрируясь на курс до начала сессии, вы получаете доступ ко всем видеолекциям и материалам для самостоятельного изучения. Задания можно отправлять после начала сессии.
Что я получу, зарегистрировавшись на курс?
После регистрации на курс и начала сессии вы получаете доступ ко всем видео и другим ресурсам курса, включая материалы для самостоятельного изучения и форумы обсуждений. Вы сможете выполнять тренировочные, а также сдавать обязательные оцениваемые задания и получить сертификат о прохождении курса.
Когда я получу сертификат о прохождении курса?
Если вы успешного пройдете курс, на странице ваших достижений появится электронный сертификат, который можно распечатать или прикрепить к профилю LinkedIn.
Почему я не могу прослушать этот курс?
Это один из немногих курсов на Coursera, которые предоставляются только на платной основе.
Какие правила возврата средств?
Остались вопросы? Посетите Центр поддержки учащихся.