Data pipelines typically fall under one of the Extra-Load, Extract-Load-Transform or Extract-Transform-Load paradigms. This course describes which paradigm should be used and when for batch data. Furthermore, this course covers several technologies on Google Cloud Platform for data transformation including BigQuery, executing Spark on Cloud Dataproc, pipeline graphs in Cloud Data Fusion and serverless data processing with Cloud Dataflow. Learners will get hands-on experience building data pipeline components on Google Cloud Platform using QwikLabs.
от партнера
Google CloudОб этом курсе
Недавно просмотрено: 108,414
Сертификат, ссылками на который можно делиться с другими людьми
Получите сертификат по завершении
100% онлайн
Начните сейчас и учитесь по собственному графику.
Гибкие сроки
Назначьте сроки сдачи в соответствии со своим графиком.
Промежуточный уровень
Прибл. 13 часов на выполнение
Английский
Субтитры: Английский, Испанский
Сертификат, ссылками на который можно делиться с другими людьми
Получите сертификат по завершении
100% онлайн
Начните сейчас и учитесь по собственному графику.
Гибкие сроки
Назначьте сроки сдачи в соответствии со своим графиком.
Промежуточный уровень
Прибл. 13 часов на выполнение
Английский
Субтитры: Английский, Испанский
от партнера
Google Cloud
We help millions of organizations empower their employees, serve their customers, and build what’s next for their businesses with innovative technology created in—and for—the cloud. Our products are engineered for security, reliability, and scalability, running the full stack from infrastructure to applications to devices and hardware. Our teams are dedicated to helping customers apply our technologies to create success.
Программа курса: что вы изучите
6 минут на завершение
Introduction
In this module, we introduce the course and agenda
6 минут на завершение
2 видео ((всего 6 мин.))
1 ч. на завершение
Introduction to Batch Data Pipelines
This module reviews different methods of data loading: EL, ELT and ETL and when to use what
1 ч. на завершение
5 видео ((всего 18 мин.))
5 видео
EL, ELT, ETL4мин
Quality considerations1мин
How to carry out operations in BigQuery3мин
Shortcomings3мин
ETL to solve data quality issues4мин
1 практическое упражнение
EL, ELT, ETL30мин
2 ч. на завершение
Executing Spark on Cloud Dataproc
This module shows how to run Hadoop on Cloud Dataproc, how to leverage GCS, and how to optimize your Dataproc jobs.
2 ч. на завершение
9 видео ((всего 49 мин.))
9 видео
Running Hadoop on Cloud Dataproc10мин
GCS instead of HDFS6мин
Optimizing Dataproc5мин
Optimizing Dataproc Storage9мин
Optimizing Dataproc Templates and Autoscaling4мин
Optimizing Dataproc Monitoring3мин
Lab Intro: Running Apache Spark jobs on Cloud Dataproc27
Summary31
1 практическое упражнение
Executing Spark on Cloud Dataproc4мин
3 ч. на завершение
Manage Data Pipelines with Cloud Data Fusion and Cloud Composer
This module shows how to manage data pipelines with Cloud Data Fusion and Cloud Composer.
3 ч. на завершение
11 видео ((всего 45 мин.))
11 видео
Introduction7мин
Components of Data Fusion2мин
Building a Pipeline6мин
Exploring Data using Wrangler1мин
Lab: Building and executing a pipeline graph in Cloud Data Fusion17
Orchestrating work between GCP services with Cloud Composer1мин
Apache Airflow Environment1мин
DAGs and Operators12мин
Workflow scheduling6мин
Monitoring and Logging4мин
Lab: An Introduction to Cloud Composer12
1 практическое упражнение
Cloud Data Fusion and Cloud Composer30мин
7 ч. на завершение
Serverless Data Processing with Cloud Dataflow
This module covers using Cloud Dataflow to build your data processing pipelines
7 ч. на завершение
12 видео ((всего 40 мин.))
12 видео
Cloud Dataflow8мин
Why customers value Dataflow3мин
Building Cloud Dataflow Pipelines in code3мин
Key considerations with designing pipelines2мин
Transforming data with PTransforms3мин
Lab: Building a Simple Dataflow Pipeline17
Aggregating with GroupByKey and Combine7мин
Lab: MapReduce in Cloud Dataflow18
Side Inputs and Windows of data4мин
Lab: Practicing Pipeline Side Inputs11
Creating and re-using Pipeline Templates3мин
Cloud Dataflow SQL pipelines3мин
1 практическое упражнение
Data Processing with Cloud Dataflow30мин
4 минуты на завершение
Summary
This module reviews the topics covered in this course
4 минуты на завершение
1 видео ((всего 4 мин.))
1 видео
Course Summary4мин
Рецензии
Лучшие отзывы о курсе BUILDING BATCH DATA PIPELINES ON GCP
от партнера UB27 мая 2020 г.
A great course to help understand the various wonderful options Google Cloud has to offer to move on-premise Hadoop workload to Google Cloud Platform to leverage scalability of clusters.
от партнера AD16 июля 2020 г.
Great course learning what it is the big advantages of using GCP for data given they have big implementations and with better performance of what it is today in on premises scenarios
от партнера AS19 мая 2020 г.
Informative on various features. But cloud fusion and dataflow are not very clearly explained in detail.. expecting more on this. Want to learn more on the pipeline topic please.
от партнера SP6 февр. 2020 г.
There were too many labs with services that take 30-40 minutes just to spin up. I wouldn't have a problem with all the labs if the services took 2-5 minutes to spin up.
Часто задаваемые вопросы
Можно ли ознакомиться с курсом до регистрации?
Да, до регистрации можно просмотреть первое видео и программу курса. Чтобы получить полный доступ к материалам курса, необходимо оплатить его.
Когда я получу доступ к лекциям и заданиям?
Регистрируясь на курс до начала сессии, вы получаете доступ ко всем видеолекциям и материалам для самостоятельного изучения. Задания можно отправлять после начала сессии.
Что я получу, зарегистрировавшись на курс?
После регистрации на курс и начала сессии вы получаете доступ ко всем видео и другим ресурсам курса, включая материалы для самостоятельного изучения и форумы обсуждений. Вы сможете выполнять тренировочные, а также сдавать обязательные оцениваемые задания и получить сертификат о прохождении курса.
Когда я получу сертификат о прохождении курса?
Если вы успешного пройдете курс, на странице ваших достижений появится электронный сертификат, который можно распечатать или прикрепить к профилю LinkedIn.
Почему я не могу прослушать этот курс?
Это один из немногих курсов на Coursera, которые предоставляются только на платной основе.
Какие правила возврата средств?
Когда вы оформите подписку, начнется семидневный бесплатный пробный период, в течение которого подписку можно отменить без штрафа. По истечении этого срока вы не сможете вернуть средства, но сможете отменить подписку в любой момент. Ознакомьтесь с нашей политикой возврата средств.
Получу ли я зачеты в университете за прохождение курса?
Этот курс не приравнивается к зачету в университетах, однако некоторые вузы принимают сертификаты на свое усмотрение. Дополнительную информацию уточняйте в своем деканате. Онлайн-дипломы и сертификаты Mastertrack™ от Coursera позволяют получить зачеты.
Остались вопросы? Посетите Центр поддержки учащихся.
