Cleaning and Exploring Big Data using PySpark

4.2
звезд
Оценки: 41
от партнера
2 831 уже зарегистрированы
В этом Проект с консультациями вы:

Learn how to clean your big dataset in PySpark

Learn how to explore big dataset in PySpark

Learn how to create visualizations from big dataset loaded in PySpark

2 hours
Учащийся среднего уровня
Загрузка не требуется
Видео на разделенном экране
Английский
Только для ПК

By the end of this project, you will learn how to clean, explore and visualize big data using PySpark. You will be using an open source dataset containing information on all the water wells in Tanzania. I will teach you various ways to clean and explore your big data in PySpark such as changing column’s data type, renaming categories with low frequency in character columns and imputing missing values in numerical columns. I will also teach you ways to visualize your data by intelligently converting Spark dataframe to Pandas dataframe. Cleaning and exploring big data in PySpark is quite different from Python due to the distributed nature of Spark dataframes. This guided project will dive deep into various ways to clean and explore your data loaded in PySpark. Data preprocessing in big data analysis is a crucial step and one should learn about it before building any big data machine learning model. Note: You should have a Gmail account which you will use to sign into Google Colab. Note: This course works best for learners who are based in the North America region. We’re currently working on providing the same experience in other regions.

Навыки, которые вы получите

  • Cleaning

  • Python Programming

  • Data Visualization (DataViz)

  • Apache Spark

  • Exploratory Data Analysis

Будете учиться пошагово

На видео, которое откроется рядом с рабочей областью, преподаватель объяснит эти шаги:

  1. Install Spark on Google Colab and load datasets in PySpark

  2. Change column datatype, remove whitespaces and drop duplicates

  3. Remove columns with Null values higher than a threshold

  4. Group, aggregate and create pivot tables

  5. Rename categories and impute missing numeric values

  6. Create visualizations to gather insights

Как устроены проекты с консультациями

Ваше рабочее пространство — это облачный рабочий стол в браузере. Ничего не нужно загружать.

На разделенном экране видео преподаватель предоставляет пошаговые

Рецензии

Лучшие отзывы о курсе CLEANING AND EXPLORING BIG DATA USING PYSPARK

Посмотреть все отзывы

Часто задаваемые вопросы

Приобретая проект с консультациями, вы получаете все необходимое для его выполнения, включая браузерный доступ к рабочему столу, содержащему папки и программы для начала работы, а также пошаговые видеоинструкции от отраслевого эксперта.

Поскольку ваше рабочее пространство включает облачный рабочий стол, рассчитанный на ноутбук или ПК, проекты с консультациями недоступны на мобильном устройстве.

Преподаватели, ведущие проект с рекомендациями, — это отраслевые эксперты с навыками, инструментами и пониманием темы, которые хотят разделить свои знания с миллионами учащихся по всему миру.

Вы можете скачать и сохранить любой из созданных файлов своего проекта с рекомендациями. Для этого воспользуйтесь функцией "Обозреватель файлов" на облачном рабочем столе.

Средства за проекты с рекомендациями не возвращаются. Ознакомьтесь с полным текстом нашей политики возврата средств.

Финансовая помощь недоступна для проектов с рекомендациями.

Прослушивание недоступно для проектов с консультациями.

В верхней части страницы вы можете нажать уровень опыта для этого проекта с консультациями, чтобы просмотреть предварительные требования к знаниями. Преподаватель проведет вас пошагово по каждому уровню проекта с консультациями.

Да, все необходимое для завершения проекта с рекомендациями будет доступно на облачном рабочем столе. Вы сможете открыть этот рабочий стол в браузере.

Вы научитесь выполнять задания в режиме разделенного экрана непосредственно в браузере. В левой части экрана можно выполнять задания в своем рабочем пространстве. В правой части экрана можно просматривать пошаговые инструкции преподавателя по работе с проектом.

Остались вопросы? Посетите Центр поддержки учащихся.