Меню журнала
> Архив номеров > Рубрики > О журнале > Авторы > Требования к статьям > Редакция и редакционный совет > Рецензенты > Порядок рецензирования статей > Политика издания > Этические принципы > Правовая информация
Журналы индексируются
Реквизиты журнала

В погоне за двумя зайцами поймай обоих сразу!
34 журнала издательства NOTA BENE входят одновременно и в ERIH PLUS, и в перечень изданий ВАК
При необходимости автору может быть предоставлена услуга срочной или сверхсрочной публикации!
ГЛАВНАЯ > Вернуться к содержанию
Оценка влияния системных параметров распределённого вычислительного комплекса на эффективность работы алгоритмов балансировки нагрузки.
Алпатов Алексей Николаевич

ассистент, кафедра ИППО, Московский технологический университет

111033, Россия, г. Москва, Таможенный gроезд, 12

Alpatov Aleksey Nikolaevich

assistant, Moscow Technological University

111033, Russia, Moscow, ul. Tamozhennyi Proezd, 12

aleksej01-91@mail.ru
Аннотация. Целью данной статьи является рассмотрение вопроса зависимости производительности алгоритмов балансировки вычислительной нагрузки для глобально распределённых вычислительных комплексов (РВК), реализующих принцип добровольных вычислений, от основных атрибутов распределённой системы. В качестве основных фиксируемых атрибутов рассмотрены структура файловой системы и тип сетевого протокола. Объектом исследования является глобально распределенный вычислительный комплекс, с комплексом диспетчирования загрузки узлов. Предметом исследования являются методы балансировки загрузки узлов РВК, реализующие принцип динамической стратегии балансировки вычислительной нагрузки. В данной статье, методологической основой являются методы фундаментальных и прикладных наук: методы анализа, методы математической статистики, имитационного моделирования. Предложена модель узловой вычислительной нагрузки в виде нелинейной кусочно-стационарной модели. В работе показана методика проведения вычислительного эксперимента по определению эффективности работы алгоритмов балансировки и разработана имитационная модель распределённого комплекса, с возможностью фиксации основных системных параметров вычислительного комплекса, а также произведена оценка их влияния на время отклика системы. Показано, что особое влияние на эффективность работы алгоритмов балансировки нагрузки оказывают такие параметры, такие как структура файловой системы и тип сетевого протокола. Таким образом, показана необходимость учёта таких параметров для обеспечения адекватности разрабатываемой модели распределённого вычислительного комплекса, реализованного по принципу добровольных вычислений.
Ключевые слова: распределённые системы, балансировка нагрузки, добровольные вычисления, имитационное моделирование, Grid Computing, квазилинеаризация, РВК, динамические методы балансировки, расписание выполнения задач, прогноз
DOI: 10.7256/2306-4196.2017.1.22021
Дата направления в редакцию: 19-02-2017

Дата публикации: 23-02-2017

Abstract. The purpose of this article is to consider the correlation of the performance of computational load balancing algorithms for globally distributed computing systems implementing the principle of volunteer computing and the basic attributes of a distributed system. As the main considered parameters the author examines file system structure and the type of network protocol. The object of the study is a globally distributed computing system with scheduling nodes loading. The subject of the study are the balancing methods of loading units of the system, implementing the principle of dynamic computational load balancing strategy. In this article, the methodological basis of the article makes methods of fundamental and applied sciences: analysis methods, methods of mathematical statistics, simulation modeling. The author suggests a model of node computational load in form of nonlinear piecewise-stationary model. The paper shows a method of computing experiment to determine the effectiveness of the balancing algorithms. The author develops a simulation model of distributed complex with the possibility of setting the basic system parameters computer system  and assess their impact on system response time. It is shown that a particular impact on the efficiency of load balancing algorithms have such parameters as file system structure and the type of network protocol. Thus, the necessity of taking into account these parameters to ensure the adequacy of the developed model of the distributed computing system implemented on the basis of volunteer computing.

Keywords: quasilinearization, Grid Computing, simulation, volunteer computing, load balancing, distributed systems, DCS, dynamic balancing methods, schedule tasks, forecast

Введение

В результате проведённого анализа ряда публикаций [1,2,3] выявлено, что на производительность алгоритмов балансировки вычислительной нагрузки и, в целом, всей распределённой системы сильное влияние оказывает её конфигурация. В работе [3] автором показано, что подбор правильных параметров распределённого вычислительного комплекса (РВК) позволяет повысить его пропускную способность на 24,5%, а также снизить время отклика системы на 28,1%. Однако основной проблематикой в данном вопросе является то, что большинство современных РВК строится в условиях гетерогенности среды, что приводит к необходимости выбора и последующей фиксации этих параметров на глобальном уровне. Стоит отметить, что в зависимости от целевого назначения вычислительного комплекса и в зависимости от требуемого уровня детализации, набор фиксируемых параметров может разниться. В частности, рассматривая организацию вычислений для локальной многопроцессорной системы, для обеспечения корректного описания модели системы, нас, в первую очередь интересуют соответствующие атрибуты вычислительного задания, такие как их размер, максимальное время ожидания в очереди на обработку, а также время обработки задания. Соответственно, ряд существующих подходов к управлению вычислительной нагрузкой были разработаны с учётом данных атрибутов. Например, одним из возможных вариантов решения задачи балансировки вычислительной нагрузки является её рассмотрение в рамках задачи ортогональной упаковки [5,6]. При данном подходе каждая вычислительная задача представляется прямоугольником, где ширина может быть представлена, например, требуемым вычислительным ресурсом процессора, а высота может быть представлена временем выполнения задачи.

Современный же этап развития вычислительной техники характеризуется повсеместным внедрением распределённых систем, построенных с использованием технологии Grid Computing. Учитывая все недостатки первых систем, а именно невозможность реализации данных систем в гетерогенной среде, I. Foster и C. Kesselman предложили [4] новый подход к организации глобально-распределённых комплексов и систем[5], что позволило решить данную задачу. Данный подход позволил объединить глобально рассредоточенные вычислительные узлы, посредством сети Интернет, в некоторую абстрактную решётку [5], где каждый узел системы выделяется для выполнения конкретного вычислительного задания. Дальнейшее развитие данной технологии привело к созданию и повсеместному развитию концепции добровольных вычислений, что позволило объединить не только крупные вычислительные центры, но и обычные персональные компьютеры пользователей в единую Grid среду. Соответственно, для глобально распределённых вычислительных комплексов, построенных на основе добровольных вычислений при создании её модели, а также организации системы балансировки заданиями, необходимо учитывать ряд дополнительных параметров системы, в частности, модель нагрузки для рабочих мест, характер использования памяти, тип файловой системы и т.д.

Далее, дадим описание разработанной имитационной модели РВК и рассмотрим вопрос оценки степени влияния таких параметров, как структура файловой системы и тип сетевого протокола на эффективность работы алгоритмов балансировки нагрузки.

Разработка имитационной модели распределённого вычислительного комплекса

Как было уже сказано выше, для решения этой задачи необходимо разработать систему, которая обеспечивает возможность проведения необходимых экспериментов, и которая позволит оценить степень влияния параметров распределённой системы на производительность и эффективность работы алгоритмов балансировки. В ходе анализа было выявлено, что для решения данной задачи необходимо было разработать имитационную модель РВК.

Имитационная модель, по сравнению с аналитической, обладает рядом преимуществ. Имитационное моделирование, для нашей задачи, позволяет [8]:

- производить многократное измерение интересующих нас параметров;

- осуществлять полный контроль всех параметров исследуемой системы, с возможностью текущей модификации алгоритма поведения исследуемой системы.

Так как построение имитационной модели сложного комплекса основывается на принципах иерархического многоуровневого моделирования [9], необходимо определить базовую модель, которая будет проста в реализации. Соответственно, выделим следующие модели РВК:

1. Базовая модель – распределённый вычислительный комплекс с гомогенным составом узлов, линий связи.

2. Глобальная модель (3-го уровня) – распределённый вычислительный комплекс с гетерогенным составом узлов, линий связи.

Одним из важнейших параметров, учёт которых необходим в разрабатываемой системе, является модель загрузки вычислительного узла комплекса. В данном эксперименте узловая нагрузка была представлена в виде однородного гомогенного потока событий (распределение Пуассона) и нелинейной кусочно-стационарной модели, описанной в виде уравнения:

где:

вектор состояния размерности n; для определенности будем считать, что наблюдаемой величиной – загрузкой узла РВК является первая компонента вектора ,

вектор входных воздействий размерности m; под входными воздействиями модели понимаются внутренние задачи, выполняемые узлом в данный момент времени,

вектор параметров системы размерности k,

вектор-функция размерности n.

Под кусочной стационарностью здесь понимается модель, выходная переменная которой является стационарной на некоторых отрезках времени эксплуатации.

На рисунке 1 показан подход к балансировке нагрузки на основе динамических моделей загрузки узлов [10].

Рисунок 1 —Балансировка нагрузки с использованием динамических моделей загрузки узлов [10]

С целью приближенности к реальным условиям эксплуатации, тестирование разработанного алгоритма производилось на глобальной модели, с различным набором параметров, описанных выше. В качестве основных алгоритмов балансировки нагрузки были выбраны следующие алгоритмы: алгоритм балансировки со случайным распределением задач (англ. randomized load balancing algorithm), циклический алгоритм (англ. Round-Robin), алгоритм наименьшего количества соединений (англ. Least-Connection), прогностический алгоритм на основе метода экспоненциального сглаживания (exponential smoothing) и прогностический алгоритм на основе метода квазилинеаризации.

После описания основных требований к имитационной модели была произведена её разработка. Структура разработанной системы представлена на рисунке 2.

Рисунок 2 — Функциональная схема разработанной системы

В качестве входных параметров используется готовый набор целевых параметров (модель узловой нагрузки, тип сетевого протокола, структура файловой системы, применяемый алгоритм балансировки и т.д.). Далее, перед каждым запуском системы, происходит анализ входных параметров, с целью выявления необходимости конфигурирования системы под каждый конкретный набор параметров. Если пользователь пытается запустить систему без изменения параметров, например при повторном запуске предыдущей части моделирования, то запуск осуществляется без переконфигурирования системы. Далее, генератор осуществляет генерацию модели с соответствующим набором параметров, после чего происходит запуск модели. После запуска системы имитационного моделирования возможен контроль хода выполнения работы, с помощью логирования основных контролируемых параметров. В результате работы системы происходит сбор требуемых статистических данных и их дальнейшая фильтрация. Фильтрация полученных данных необходима для выявления только существенных для исследования данных. Далее происходит интерпретация полученных отфильтрованных данных. С целью удобства анализа полученных данных, существует возможность их преобразования в удобный к восприятию вид (графики, таблицы).

На рисунке 3 приведены параметры эксперимента исследуемого РВК с различными характеристиками.

Рисунок 3 Фиксируемые параметры распределённого вычислительного комплекса

Анализ влияния структуры файловой системы на эффективность работы алгоритмов балансировки

В результате анализа полученных экспериментальных данных было выявлено, что структура файловой системы оказывает существенное влияние на производительность алгоритмов балансировки нагрузки. Так, при загрузке системы, стремящейся к 1, резко (см. рисунок 5) ухудшалась работа системы, построенной на основе бездисковой модели структуры файловой системы. Разработанный прогностический алгоритм на основе метода квазилинеаризации, так же как и метод на основе экспоненциального сглаживания, показали наилучшие результаты (см. рисунок 4 и рисунок 5). Данный эффект можно объяснить тем, что при больших нагрузках, а именно при больших количествах операций ввода/вывода, общий файловый сервер становится «узким» местом всего вычислительного комплекса. Особо остро данный проблема встаёт на тех узлах, на которых используется файл подкачки (англ. paging).

Рисунок 4 Производительность различных алгоритмов при файловой структуре с локальными дисками

Рисунок 5 Производительность различных алгоритмов при файловой структуре с общим файловым сервером

Анализ влияния протокола передачи данных

Для оценки влияния выбора коммуникационного протокола, было произведено сравнение двух протоколов передачи данных TCP и UDP. Предполагалось оценить влияние коммуникационного протокола для дисковых и бездисковых рабочих станций. Особое внимание было уделено бездисковым рабочим станциям с общим файловым сервером, так как предполагалось, что при больших нагрузках на систему, происходит большое число обращений к файловому серверу, что может приводить к флуктуациям сетевого трафика.

Результаты эксперимента для протокола TCP приведены на рисунке 6 и рисунке 7. Результаты для бездисковых и систем с локальными дисками с протоколом UDP представлены, соответственно, на рисунке 8 и рисунке 9.

Рисунок 6 Производительность алгоритмов для протокола TCP (бездисковые системы)

Рисунок 7 Производительность алгоритмов для протокола TCP (локальная структура)

Рисунок 8 Производительность алгоритмов для протокола TCP (бездисковые системы)

Рисунок 9 Производительность алгоритмов для протокола UDP (локальная структура файловой системы)

Как видно из графиков, уменьшение времени отклика, как для дисковых, так и бездисковых систем произошло при использовании сетевого протокола UDP. Данный факт объясняется тем, что протокол UDP организует передачу пакетов без предварительного установления соединения, что приводит к снижению объёма передаваемых данных. Однако стоит проявлять осторожность при интерпретации полученных результатов. Так, при построении модели не учитывалась внутренняя структура сетей передачи данных, а именно наличие активного сетевого оборудования (коммутаторы, прокси-серверы и т.д.) в её составе и надёжность данного оборудования. Однако полученные результаты могут быть применены для локальных комплексов, таких как университетские вычислительные центры.

Заключение

Полученные в ходе анализа результатов эксперимента данные, позволили отметить важность учёта, при создании адекватной модели современного распределённого вычислительного комплекса, таких параметров как модель вычислительной нагрузки, структура файловой системы комплекса и тип сетевого протокола. Однако, как отмечено в данной работе сетевая составляющая в полной мере не учитывается, что поднимает ряд проблем для дальнейших исследований. Связано это, прежде всего, со сложностью построения адекватной модели, учитывающие все свойства сетевого трафика и промежуточных передающих узлов, между сервером и хостом, а также все возможные варианты передачи пакета данных. Для решения данной задачи, в дальнейшем, планируется рассмотреть древовидную структуру представления grid архитектуры, с целью построения более адекватной модели.

Библиография
1.
Benmohammed-Mahieddine K. An evaluation of load balancing algorithms for distributed systems : дис. – The University of Leeds, 1991.– p. 197.
2.
Leland W., Ott T. J. Load-balancing heuristics and process behavior. – ACM, 1986. – Т. 14. – №. 1. – pp. 54-69.
3.
Zhang F. et al. Performance Improvement of Distributed Systems by Autotuning of the Configuration Parameters //Tsinghua Science & Technology. – 2011. – Т. 16. – №. – pp. 440-448.
4.
I. Foster and C. Kesselman. The Grid: Blueprint for a New Computing Infrastructure. Morgan Kaufmann, San Francisco, CA, 1998, -p. 748.
5.
Алпатов Алексей Николаевич Развитие распределенных технологий и систем // ПНиО. 2015. №2 (14) -С.60-66.
6.
Кузюрин Н. Н., Грушин Д. А., Фомин А. Проблемы двумерной упаковки и задачи оптимизации в распределенных вычислительных системах // Труды ИСП РАН . 2014. №1 С.483-501.
7.
Ntene N. An algorithmic approach to the 2D oriented strip packing problem: дис. – Department of Logistics, University of Stellenbosch, 2007.-p. 189.
8.
Бабина О. И. и др. Сравнительный анализ имитационных и аналитических моделей //Сборник докладов Четвертой всероссийской научнопрактической конференции «Имитационное моделирование. Теория и практика. ИММОД-2009».– 2009 -c.73-77.
9.
Алиев Т. И. Исследование сложных систем на основе комбинированного подхода //Сборник докладов всероссийской научнопрактической конференции «Имитационное моделирование. Теория и практика. ИММОД-2003».-ТОМ I. – С. 50.
10.
Алпатов А.Н., Михайлов Б.М., Рощин А.В. Методы балансировки и оценки нагрузки узлов распределенной вычислительной системы. Естественные и технические науки. 2016. № 6 (96). -С. 165-170.
11.
B. Yagoubi and Y. Slimani(2007)” Task Load Balancing Strategy for Grid Computing”, Journal of computer science,ISSN 1546-9239, pp. 186-194
References (transliterated)
1.
Benmohammed-Mahieddine K. An evaluation of load balancing algorithms for distributed systems : dis. – The University of Leeds, 1991.– p. 197.
2.
Leland W., Ott T. J. Load-balancing heuristics and process behavior. – ACM, 1986. – T. 14. – №. 1. – pp. 54-69.
3.
Zhang F. et al. Performance Improvement of Distributed Systems by Autotuning of the Configuration Parameters //Tsinghua Science & Technology. – 2011. – T. 16. – №. – pp. 440-448.
4.
I. Foster and C. Kesselman. The Grid: Blueprint for a New Computing Infrastructure. Morgan Kaufmann, San Francisco, CA, 1998, -p. 748.
5.
Alpatov Aleksei Nikolaevich Razvitie raspredelennykh tekhnologii i sistem // PNiO. 2015. №2 (14) -S.60-66.
6.
Kuzyurin N. N., Grushin D. A., Fomin A. Problemy dvumernoi upakovki i zadachi optimizatsii v raspredelennykh vychislitel'nykh sistemakh // Trudy ISP RAN . 2014. №1 S.483-501.
7.
Ntene N. An algorithmic approach to the 2D oriented strip packing problem: dis. – Department of Logistics, University of Stellenbosch, 2007.-p. 189.
8.
Babina O. I. i dr. Sravnitel'nyi analiz imitatsionnykh i analiticheskikh modelei //Sbornik dokladov Chetvertoi vserossiiskoi nauchnoprakticheskoi konferentsii «Imitatsionnoe modelirovanie. Teoriya i praktika. IMMOD-2009».– 2009 -c.73-77.
9.
Aliev T. I. Issledovanie slozhnykh sistem na osnove kombinirovannogo podkhoda //Sbornik dokladov vserossiiskoi nauchnoprakticheskoi konferentsii «Imitatsionnoe modelirovanie. Teoriya i praktika. IMMOD-2003».-TOM I. – S. 50.
10.
Alpatov A.N., Mikhailov B.M., Roshchin A.V. Metody balansirovki i otsenki nagruzki uzlov raspredelennoi vychislitel'noi sistemy. Estestvennye i tekhnicheskie nauki. 2016. № 6 (96). -S. 165-170.
11.
B. Yagoubi and Y. Slimani(2007)” Task Load Balancing Strategy for Grid Computing”, Journal of computer science,ISSN 1546-9239, pp. 186-194
Ссылка на эту статью

Просто выделите и скопируйте ссылку на эту статью в буфер обмена. Вы можете также попробовать найти похожие статьи

Другие сайты издательства:
Официальный сайт издательства NotaBene / Aurora Group s.r.o.
Сайт исторического журнала "History Illustrated"