Введение в облачные и распределенные информационные системы. Тимур Машнин

Чтение книги онлайн.

      В облаке распараллелить map легко, потому что каждая задача map является независимой от другой задачи map, и поэтому эти задачи map могут быть определены для выполнения любому серверу.

      Обычно задачи map назначаются серверу, к которому эти данные наиболее близко находятся, чтобы уменьшить сетевые издержки.

      Далее необходимо гарантировать, чтобы все исходящие записи map с одним и тем же ключом были присвоены одному и тому же reduce.

      И это поможет перевести данные с map на reduce.

      В этом случае вы используете функцию partitioning.

      Например, как мы обсуждали ранее, может использоваться функция хэш-разбиения, когда каждому ключу присваивается номер задачи, который получается путем вычисления остатка от деления хеша ключа на количество reduce задач.

      Завершить фазу reduce также легко, потому что каждая задача reduce не зависит от другой.

      Каждой задаче reduce присваивается набор ключей, и эти наборы ключей не пересекаются друг с другом.

      И поэтому их можно запустить независимо друг от друга.

      Наконец, вам нужно реализовать хранилище.

      Ввод map в начале идет из распределенной файловой системы, вывод map идет в локальную файловую систему map узла.

      Ввод reduce идет из множества удаленных дисков, используя локальные файловые системы.

      Вывод reduce идет в распределенную файловую систему.

      Эта распределенная файловая система запускается обычно на тех же серверах, где выполняются задачи map и reduce.

      Например, Apache Hadoop использует HDFS, известную как распределенная файловая система Hadoop.

      Обычно эта файловая система хранит множественные копии одного и того же входного блока данных.

      Она копирует файловые блоки как минимум три раза и эти три файловые копии размещаются на трех разных серверах.

      И поэтому, когда запускается задача map, необходимо извлечь блок данных, который является его блоком входных данных с одного из серверов, который хранит его в настоящее время.

      Задача запрашивает онлайн-файловую систему HDFS, чтобы сделать это, и эта передача выполняется быстрее, если сервер, на котором расположен этот конкретный блок, фактически является тем же сервером, на котором выполняется задача map.

      Вывод map не хранится в распределенной файловой системе.

      Вместо этого вывод map сохраняется на локальном диске на сервере, на котором выполняется задача map.

      И ввод данных reduce производится с этих удаленных дисков.

      Причина, по которой этот промежуточный траффик между map и reduce использует локальную файловую систему – это скорость передачи данных и потому что эти данные не нужны внешнему пользователю.

      Наконец, когда результат reduce получен, он записывается в распределенную файловую систему обратно, где он становится доступен.

      Давайте немного посмотрим, как работает планировщик.

      Планировщик YARN – это планировщик, который используется в Apache Hadoop.

      YARN означает СКАЧАТЬ