Об этом курсе: This course will introduce you to the multiple forms of parallelism found in modern Intel architecture processors and teach you the programming frameworks for handling this parallelism in applications. You will get access to a cluster of modern manycore processors (Intel Xeon Phi architecture) for experiments with graded programming exercises. This course can apply to various HPC and datacenter workloads and framework including artificial intelligence (AI). You will learn how to handle data parallelism with vector instructions, task parallelism in shared memory with threads, parallelism in distributed memory with message passing, and memory architecture parallelism with optimized data containers. This knowledge will help you to accelerate computational applications by orders of magnitude, all the while keeping your code portable and future-proof. Prerequisite: programming in C/C++ or Fortran in the Linux environment and Linux shell proficiency (navigation, file copying, editing files in text-based editors, compilation).
Для кого этот курс: For developers of machine learning libraries and frameworks. For innovators looking to combine machine learning and traditional computing in artificial intelligence systems. For engineers, students and researchers in computational disciplines interested in parallel computing.
Преподаватели: Andrey Vladimirov, Head of High-Performance Computing Research
Colfax International
| Уровень | Intermediate |
| Язык | English |
| Требования к аппаратным средствам | A computer running a recent Intel Corporation Microprocessor |
| Как пройти курс | Чтобы пройти курс, выполните все оцениваемые задания. |
| Оценки пользователей |
- Материал для самостоятельного изучения: Modern Code
- Видео: 1.1 Why this course?
- Видео: 1.2 How Computers Get Faster
- Видео: 1.3 Intel Architecture
- Видео: 1.4 Modern Code
- Видео: 1.5 What You Are Going To Learn
- Видео: 1.6 Remote Access
- Элемент LTI: Register for cluster access
- Материал для самостоятельного изучения: Vectorization
- Видео: 2.2 Vectorizing Your Code
- Видео: 2.3.1 Automatic Vectorization
- Видео: 2.3.2 Will This Vectorize?
- Видео: 2.4 Guided Automatic Vectorization
- Видео: 2.8.1 Stencil Introduction
- Видео: 2.8 Stencil
- Материал для самостоятельного изучения: Code Download
- Видео: 2.5 SIMD-Enabled Functions
- Видео: 2.6 Vector Dependence
- Видео: 2.7 Strip Mining
- Видео: Numerical Integration Introduction
- Видео: 2.9 Integral Vectorization
- Материал для самостоятельного изучения: Code Download
- Видео: 2.10 Learn More
- Материал для самостоятельного изучения: Multithreading with OpenMP
- Видео: Demo: Forks
- Материал для самостоятельного изучения: Code Download
- Видео: 3.2 Creating Threads
- Видео: 3.3 Variable Sharing
- Видео: 3.4 Parallel Loops
- Видео: 3.5 Data Races Mutexes
- Видео: 3.7 Parallel Reduction
- Видео: Stencil Introduction
- Видео: Stencil Demonstration
- Материал для самостоятельного изучения: Code Download
- Видео: Learn More
- Материал для самостоятельного изучения: Memory Traffic
- Видео: 4.2 Memory Hierarchy
- Видео: 4.3 High Bandwidth Memory
- Видео: 4.4 Memory Allocation
- Видео: Stencil Introduction
- Видео: Demo: Stencil with numactl
- Видео: Demo: Stencil with Memkind
- Видео: 4.5 Bypassing Caches
- Видео: Stencil Demonstration-Nontemporal
- Видео: Stencil Demonstration-Char
- Материал для самостоятельного изучения: Code Download
- Видео: 4.6 Locality in Space
- Видео: 4.7 Locality in Time
- Видео: Integral Introduction
- Видео: Integral Demonstration
- Материал для самостоятельного изучения: Code Download
- Материал для самостоятельного изучения: Clusters and MPI
- Видео: 5.2 Message Passing Interface
- Видео: 5.3 Programming with MPI
- Видео: 5.4 Compiling and Running with MPI
- Видео: 5.5 Peer-to-Peer Messaging
- Видео: 5.6 Collective Communication
- Видео: Stencil Introduction
- Видео: Stencil Demonstration-MPI
- Материал для самостоятельного изучения: Code Download
- Видео: Integral Introduction
- Видео: Integral Demonstration
- Материал для самостоятельного изучения: Code Download
- Видео: Learn More
Каждый курс — это интерактивный учебник, который содержит видеоматериалы, тесты и проекты.
Общайтесь с тысячами других учащихся: обсуждайте идеи, материалы курса и помогайте друг другу осваивать новые понятия.
Получите документы о прохождении курсов и поделитесь своим успехом с друзьями, коллегами и работодателями.
| Приобрести курс | |
|---|---|
| Получить доступ к материалам курса | Доступен |
| Получить доступ к оцениваемым материалам курса | Доступен |
| Получить итоговую оценку | Доступен |
| Earn a shareable Course Certificate | Доступен |
Good introductory material on parallel computing and HPC with latest Intel hardware. Topics like OpenMP and MPI could perhaps have been covered in more details. Good practice assignments. Looking forward to the second part of this course, which promises to be a hoot.
very nice course, good lecturer! I really enjoyed it!
Very well explained, very simple, well structured and interesting examples. Although, more diversity of the examples would be interesting, for example, mathematical operations (as matrix-matrix multiplication), bioinformatics, financial, and so on. Also, would be great more exercises, labs and resources.
Please bring advance courses by Intel also such as FPGA based courses.