Parallel and Distributed Computing
Введено
7:46
Computer Systems and Networks (Компьютерные системы и сети)
Люди называют это облаком. Это не облако. Эта коробка стоит у кого-то дома: роутер, принимающий данные от вашего телефона и передающий их дальше. Эта вилка — другое…
Озвучивание на английском · переключаемые субтитры на английском и китайском языках
In this lesson
| English | Значение |
|---|---|
| sequential computing/siːˈkwenʃl kəmˈpjuːtɪŋ/ | последовательные вычисления |
| Parallel computing/ˈpærəlel kəmˈpjuːtɪŋ/ | параллельные вычисления |
| processors/ˈprəʊsesəz/ | процессоры |
| Distributed computing/ˈdɪstrɪbjuːtɪd kəmˈpjuːtɪŋ/ | распределённые вычисления |
| speedup/ˈspiːdʌp/ | ускорение |
Пошагово
- Традиционно компьютер выполняет шаги по очереди.
- Это последовательные вычисления: каждый шаг должен завершиться до начала следующего.
- Это просто, но может быть медленно для крупных задач.
- Чтобы ускорить процесс, мы можем выполнять несколько шагов одновременно.
In sequential computing:
Сложность 1/5 · 100 монет + небольшой бонус за первое завершение сегодня
One step at a time, in order.
Параллельные и распределенные системы
- Параллельные вычисления используют несколько процессоров в одной машине для выполнения частей задачи одновременно.
- Распределенные вычисления распределяют задачу между многими отдельными компьютерами, часто находящимися в разных местах, соединенными сетью.
- Параллельные = много процессоров, одна машина. Распределенные = много машин.
- Обе стратегии направлены на более быстрое выполнение крупной задачи.

Параллельные вычисления: множество процессоров работают одновременно
Sequential, parallel, or distributed?
Sequential runs one step at a time; parallel uses several processors in one machine at once; distributed spreads a task across many separate computers.
Match each term to its meaning.
Сложность 2/5 · 140 монет + небольшой бонус за первое завершение сегодня
Parallel is one machine; distributed is many machines.
Ускорение и его предел
- Эффект параллельных вычислений измеряется показателем ускорения:
- $\text{speedup} = \dfrac{\text{time using one processor}}{\text{time using several processors}}$.
- Но любая часть, которая обязательно должна выполняться последовательно, не может быть ускорена добавлением процессоров.
- Поэтому последовательная часть устанавливает потолок — жесткий лимит общего ускорения.
A task takes 100 s on one processor and 40 s on several. What is the speedup?
Сложность 2/5 · 140 монет + небольшой бонус за первое завершение сегодня
speedup = 100 / 40 = 2.5×.
If 20 s of a 100 s task must run sequentially, what is the maximum possible speedup?
Сложность 2/5 · 140 монет + небольшой бонус за первое завершение сегодня
Even with infinite processors, 20 s remains: 100 / 20 = 5×.
Why can adding more processors never remove the speedup cap?
Сложность 1/5 · 100 монет + небольшой бонус за первое завершение сегодня
The sequential portion sets a floor on the total time.
Distributed computing is only useful for small jobs that fit on one machine.
Сложность 1/5 · 100 монет + небольшой бонус за первое завершение сегодня
False. Distributed computing suits huge jobs too big for one machine, such as indexing the web, by splitting the work across many computers.
Когда распределенные решения эффективны
- Распределенные решения раскрываются на огромных задачах — колоссальных наборах данных или поисковых движках, индексирующих весь интернет.
- Объем работы слишком велик для одной машины и естественно разделяется между тысячами устройств.
Ускорение с ограничением. Задача длительностью 100 секунд имеет 80 с параллельной и 20 с последовательной части. На 4 процессорах параллельная часть занимает $80 / 4 = 20$ с, плюс 20 с последовательной = 40 с. Ускорение $= 100 / 40 = 2.5\times$. Даже при наличии миллиона процессоров 20 с последовательной части остаются, поэтому ускорение никогда не превысит $100 / 20 = 5$.
Последовательные вычисления выполняют один шаг за другим. Параллельные вычисления используют несколько процессоров в одной машине одновременно; распределенные вычисления распределяют работу между многими машинами. Прирост параллельных вычислений измеряется как ускорение (время одного процессора ÷ время нескольких процессоров), но последовательная часть ограничивает этот показатель (здесь — 5×).