This course is for novice programmers or business people who would like to understand the core tools used to wrangle and analyze big data. With no prior experience, you will have the opportunity to walk through hands-on examples with Hadoop and Spark frameworks, two of the most common in the industry. You will be comfortable explaining the specific components and basic processes of the Hadoop architecture, software stack, and execution environment. In the assignments you will be guided in how data scientists apply the important concepts and techniques such as Map-Reduce that are used to solve fundamental problems in big data. You'll feel empowered to have conversations about big data and the data analysis process.
от партнера
Калифорнийский университет в Сан-Диего
Об этом курсе
Недавно просмотрено: 41,032
Приобретаемые навыки
Python ProgrammingApache HadoopMapreduceApache Spark
Программа курса: что вы изучите
Неделя
12 ч. на завершение
Hadoop Basics
Welcome to the first module of the Big Data Platform course. This first module will provide insight into Big Data Hype, its technologies opportunities and challenges. We will take a deeper look into the Hadoop stack and tool and technologies associated with Big Data solutions.
7 видео ((всего 53 мин.)), 4 материалов для самостоятельного изучения, 1 тест
7 видео
The Apache Framework: Basic Modules3мин
Hadoop Distributed File System (HDFS)5мин
The Hadoop "Zoo"5мин
Hadoop Ecosystem Major Components11мин
Exploring the Cloudera VM: Hands-On Part 116мин
Exploring the Cloudera VM: Hands-On Part 26мин
4 материала для самостоятельного изучения
Apache Hadoop Ecosystem10мин
Lesson 1 Slides (PDF)10мин
Hardware & Software Requirements10мин
Lesson 2 Slides - Cloudera VM Tour10мин
1 практическое упражнение
Basic Hadoop Stack20мин
Неделя
23 ч. на завершение
Introduction to the Hadoop Stack
In this module we will take a detailed look at the Hadoop stack ranging from the basic HDFS components, to application execution frameworks, and languages, services.
10 видео ((всего 70 мин.)), 6 материалов для самостоятельного изучения, 3 тестов
10 видео
The Hadoop Distributed File System (HDFS) and HDFS28мин
MapReduce Framework and YARN8мин
The Hadoop Execution Environment4мин
YARN, Tez, and Spark11мин
Hadoop Resource Scheduling6мин
Hadoop-Based Applications3мин
Introduction to Apache Pig7мин
Introduction to Apache HIVE7мин
Introduction to Apache HBASE7мин
6 материала для самостоятельного изучения
Hadoop Basics - Lesson 1 Slides10мин
Lesson 2: Hadoop Execution Environment - Slides10мин
Lesson 3: Hadoop-Based Applications Overview - All Slides10мин
Command list for Applications Slides10мин
Tips to handle service connection errors10мин
References for Applications10мин
3 практического упражнения
Overview of Hadoop Stack10мин
Hadoop Execution Environment14мин
Hadoop Applications12мин
Неделя
32 ч. на завершение
Introduction to Hadoop Distributed File System (HDFS)
In this module we will take a detailed look at the Hadoop Distributed File System (HDFS). We will cover the main design goals of HDFS, understand the read/write process to HDFS, the main configuration parameters that can be tuned to control HDFS performance and robustness, and get an overview of the different ways you can access data on HDFS.
9 видео ((всего 58 мин.)), 5 материалов для самостоятельного изучения, 3 тестов
9 видео
The HDFS Performance Envelope5мин
Read/Write Processes in HDFS4мин
HDFS Tuning Parameters6мин
HDFS Performance and Robustness9мин
Overview of HDFS Access, APIs, and Applications5мин
HDFS Commands8мин
Native Java API for HDFS4мин
REST API for HDFS8мин
5 материала для самостоятельного изучения
Lesson 1: Introduction to HDFS - Slides10мин
HDFS references10мин
Lesson 2: HDFS Performance and Tuning - Slides10мин
HDFS Access, APIs10мин
Lesson 3: HDFS Access, APIs, Applications - Slides10мин
3 практического упражнения
HDFS Architecture12мин
HDFS performance,tuning, and robustness10мин
Accessing HDFS12мин
Неделя
47 ч. на завершение
Introduction to Map/Reduce
This module will introduce Map/Reduce concepts and practice. You will learn about the big idea of Map/Reduce and you will learn how to design, implement, and execute tasks in the map/reduce framework. You will also learn the trade-offs in map/reduce and how that motivates other tools.
9 видео ((всего 27 мин.)), 3 материалов для самостоятельного изучения, 3 тестов
9 видео
The Map/Reduce Framework2мин
A MapReduce Example: Wordcount in detail4мин
MapReduce: Intro to Examples and Principles2мин
MapReduce Example: Trending Wordcount1мин
MapReduce Example: Joining Data4мин
MapReduce Example: Vector Multiplication2мин
Computational Costs of Vector Multiplication3мин
MapReduce Summary2мин
3 материала для самостоятельного изучения
Lesson 1: Introduction to MapReduce - Slides10мин
A note on debugging map/reduce programs.10мин
Lesson 2: MapReduce Examples and Principles - Slides10мин
1 практическое упражнение
Lesson 1 Review14мин
Неделя
58 ч. на завершение
Spark
Welcome to module 5, Introduction to Spark, this week we will focus on the Apache Spark cluster computing framework, an important contender of Hadoop MapReduce in the Big Data Arena. Spark provides great performance advantages over Hadoop MapReduce,especially for iterative algorithms, thanks to in-memory caching. Also, gives Data Scientists an easier way to write their analysis pipeline in Python and Scala,even providing interactive shells to play live with data.
10 видео ((всего 70 мин.)), 4 материалов для самостоятельного изучения, 5 тестов
10 видео
Architecture of Spark7мин
Resilient Distributed Datasets10мин
Spark Transformations10мин
Wide Transformations10мин
Directed Acyclic Graph (DAG) Scheduler8мин
Actions in Spark2мин
Memory Caching in Spark5мин
Broadcast Variables2мин
Accumulators1мин
4 материала для самостоятельного изучения
Setup PySpark on the Cloudera VM10мин
Lesson 1: Intro to Apache Spark - Slides10мин
Lesson 2: RDD and Transformations - Slides10мин
Lesson 3: Scheduling, Actions, Caching - Slides10мин
3 практического упражнения
Spark Lesson 112мин
Spark Lesson 210мин
Spark Lesson 312мин
29%
начал новую карьеру, пройдя эти курсы
24%
получил значимые преимущества в карьере благодаря этому курсу
Лучшие отзывы о курсе Hadoop Platform and Application Framework
I'm forced to give 5 stars. I don't want to have a certification on a poor quality course (another coursera mistake). This material needs tremendous amount of work to get finished and revised.
Super hands on introduction to key Hadoop components, such as Spark, Map Reduce, Hive, Pig, HBase, HDFS, YARN, Squoop and Flume.\n\nI can't wait to the next course on the specialization.
Преподаватели
Natasha Balac
Director, Predictive Analytics Center of Excellence (PACE)San Diego Supercomputer Center
Paul Rodriguez
Research ProgrammerSan Diego Supercomputer Center (SDSC)
Andrea Zonca
HPC Applications SpecialistSan Diego Supercomputer Center (SDSC)
О Калифорнийский университет в Сан-Диего
UC San Diego is an academic powerhouse and economic engine, recognized as one of the top 10 public universities by U.S. News and World Report. Innovation is central to who we are and what we do. Here, students learn that knowledge isn't just acquired in the classroom—life is their laboratory.
Часто задаваемые вопросы
Когда я получу доступ к лекциям и заданиям?
Зарегистрировавшись на сертификацию, вы получите доступ ко всем видео, тестам и заданиям по программированию (если они предусмотрены). Задания по взаимной оценке сокурсниками можно сдавать и проверять только после начала сессии. Если вы проходите курс без оплаты, некоторые задания могут быть недоступны.
Что я получу, оплатив сертификацию?
Оплатив сертификацию, вы получите доступ ко всем материалам курса, включая оцениваемые задания. После успешного прохождения курса на странице ваших достижений появится электронный сертификат. Оттуда его можно распечатать или прикрепить к профилю LinkedIn. Просто ознакомиться с содержанием курса можно бесплатно.
Какие правила возврата средств?
Можно ли получить финансовую помощь?
Остались вопросы? Посетите Центр поддержки учащихся.
Coursera делает лучшее в мире образование доступным каждому, предлагая онлайн-курсы от ведущих университетов и организаций.
© Coursera Inc., 2019 Все права защищены.
