Об этом курсе
Недавно просмотрено: 71,497

Learner Career Outcomes

50%

начал новую карьеру, пройдя эти курсы

25%

получил значимые преимущества в карьере благодаря этому курсу

14%

стал больше зарабатывать или получил повышение

Курс 1 из 5 в программе

100% онлайн

Начните сейчас и учитесь по собственному графику.

Гибкие сроки

Назначьте сроки сдачи в соответствии со своим графиком.

Промежуточный уровень

Прибл. 45 часа на выполнение

Предполагаемая нагрузка: 6 weeks of study, 6-8 hours/week...

Английский

Субтитры: Английский

Приобретаемые навыки

Python ProgrammingApache HadoopMapreduceApache Spark

Learner Career Outcomes

50%

начал новую карьеру, пройдя эти курсы

25%

получил значимые преимущества в карьере благодаря этому курсу

14%

стал больше зарабатывать или получил повышение

Курс 1 из 5 в программе

100% онлайн

Начните сейчас и учитесь по собственному графику.

Гибкие сроки

Назначьте сроки сдачи в соответствии со своим графиком.

Промежуточный уровень

Прибл. 45 часа на выполнение

Предполагаемая нагрузка: 6 weeks of study, 6-8 hours/week...

Английский

Субтитры: Английский

Программа курса: что вы изучите

Неделя
1
24 минуты на завершение

Welcome

8 видео ((всего 14 мин.)), 1 материал для самостоятельного изучения
8 видео
Issues BigData can solve1мин
BigData Applications1мин
What is BigData Essentials?2мин
Course Structure2мин
Meet Emeli1мин
Meet Alexey2мин
Meet Ivan1мин
1 материал для самостоятельного изучения
Slack Channel is the quickest way to get answers to your questions10мин
8 ч. на завершение

What are BigData and distributed file systems (e.g. HDFS)?

18 видео ((всего 136 мин.)), 10 материалов для самостоятельного изучения, 4 тестов
18 видео
File system managing6мин
File content exploration 15мин
File content exploration 213мин
Processes4мин
Scaling Distributed File System9мин
Block and Replica States, Recovery Process 16мин
Block and Replica States, Recovery Process 27мин
HDFS Client9мин
Web UI, REST API4мин
Namenode Architecture8мин
Introduction10мин
Text formats9мин
Binary formats 18мин
Binary formats 28мин
Compression7мин
How to submit your first assignment3мин
How to Install Docker on Windows 7, 8, 104мин
10 материала для самостоятельного изучения
Basic Bash Commands10мин
HDFS Lesson Introduction10мин
Gentle Introduction into "curl"10мин
File formats extra (optional)10мин
Grading System: Instructions and Common Problems10мин
Docker Installation Guide10мин
HDFS CLI Playground30мин
Programming Assignment: Instructions and Common Problems10мин
FAQ How to show your code to teaching staff10мин
Slack channel "Bigdata-coursera" - the quickest to solve technical problems.10мин
2 практического упражнения
Distributed File Systems16мин
Big Data and Distributed File Systems25мин
Неделя
2
3 ч. на завершение

Solving Problems with MapReduce

17 видео ((всего 94 мин.)), 1 материал для самостоятельного изучения, 3 тестов
17 видео
Unreliable Components 28мин
MapReduce4мин
Distributed Shell8мин
Fault Tolerance7мин
Fault Tolerance. Live Demo3мин
Streaming7мин
Streaming in Python3мин
WordCount in Python5мин
Distributed Cache4мин
Environment, Counters4мин
Testing5мин
Combiner5мин
Partitioner7мин
Comparator1мин
Speculative Execution / Backup Tasks3мин
Compression4мин
1 материал для самостоятельного изучения
Hadoop Streaming Assignments: Intro and Code Samples10мин
3 практического упражнения
Hadoop MapReduce Intro26мин
MapReduce Streaming26мин
Hadoop Streaming Final30мин
Неделя
3
4 ч. на завершение

Solving Problems with MapReduce (practice week)

1 видео ((всего 3 мин.)), 5 материалов для самостоятельного изучения, 5 тестов
5 материала для самостоятельного изучения
Hadoop Streaming Assignments: Intro and Code Samples10мин
Hints to Debug Hadoop Streaming Applications10мин
Grading System and Grading System Sandbox User Guide10мин
Hadoop Streaming Assignments: Instructions10мин
Hint to the "Stop words" programming assignment10мин
Неделя
4
3 ч. на завершение

Introduction to Apache Spark

16 видео ((всего 95 мин.)), 2 материалов для самостоятельного изучения, 2 тестов
16 видео
Welcome6мин
RDDs8мин
Transformations 16мин
Transformations 27мин
Actions5мин
Resiliency6мин
Execution & Scheduling6мин
Caching & Persistence5мин
Broadcast variables5мин
Accumulator variables5мин
Getting started with Spark & Python6мин
Working with text files6мин
Joins4мин
Broadcast & Accumulator variables5мин
Spark UI4мин
Cluster mode3мин
2 материала для самостоятельного изучения
Spark Assignments Intro10мин
Instructions for Spark programming assignment10мин
2 практического упражнения
Lesson 1 Quiz20мин
Lesson 2 Quiz24мин
4.0
Рецензии: 110Chevron Right

Лучшие отзывы о курсе Big Data Essentials: HDFS, MapReduce and Spark RDD

автор: YHNov 22nd 2018

Everything in this course is new to me, but it provides me with many practice so I can gradually get familiar with all these new stuff. I find it a bit challenging, but overall it's quite good.

автор: SHMay 10th 2019

The course takes you from basic level , step level .But It is quite fast for beginners , you may need pause video in between and try to understand the concept.

Преподаватели

Avatar

Ivan Puzyrevskiy

Technical Team Lead
Avatar

Alexey A. Dral

Founder and Chief Executive Officer
BigData Team
Avatar

Pavel Mezentsev

Senior Data Scientist
PulsePoint inc

О Яндекс

Yandex is a technology company that builds intelligent products and services powered by machine learning. Our goal is to help consumers and businesses better navigate the online and offline world....

Специализация Big Data for Data Engineers: общие сведения

This specialization is made for people working with data (either small or big). If you are a Data Analyst, Data Scientist, Data Engineer or Data Architect (or you want to become one) — don’t miss the opportunity to expand your knowledge and skills in the field of data engineering and data analysis on the large scale. In four concise courses you will learn the basics of Hadoop, MapReduce, Spark, methods of offline data processing for warehousing, real-time data processing and large-scale machine learning. And Capstone project for you to build and deploy your own Big Data Service (make your portfolio even more competitive). Over the course of the specialization, you will complete progressively harder programming assignments (mostly in Python). Make sure, you have some experience in it. This course will master your skills in designing solutions for common Big Data tasks: - creating batch and real-time data processing pipelines, - doing machine learning at scale, - deploying machine learning models into a production environment — and much more! Join some of best hands-on big data professionals, who know, their job inside-out, to learn the basics, as well as some tricks of the trade, from them. Special thanks to Prof. Mikhail Roytberg (APT dept., MIPT), Oleg Sukhoroslov (PhD, Senior Researcher, IITP RAS), Oleg Ivchenko (APT dept., MIPT), Pavel Akhtyamov (APT dept., MIPT), Vladimir Kuznetsov, Asya Roitberg, Eugene Baulin, Marina Sudarikova....
Big Data for Data Engineers

Часто задаваемые вопросы

  • Зарегистрировавшись на сертификацию, вы получите доступ ко всем видео, тестам и заданиям по программированию (если они предусмотрены). Задания по взаимной оценке сокурсниками можно сдавать и проверять только после начала сессии. Если вы проходите курс без оплаты, некоторые задания могут быть недоступны.

  • Записавшись на курс, вы получите доступ ко всем курсам в специализации, а также возможность получить сертификат о его прохождении. После успешного прохождения курса на странице ваших достижений появится электронный сертификат. Оттуда его можно распечатать или прикрепить к профилю LinkedIn. Просто ознакомиться с содержанием курса можно бесплатно.

Остались вопросы? Посетите Центр поддержки учащихся.