Ключевые слова
загрузка вычислительного кластера
байесовские динамические линейные модели
векторная авторегрессия
планирование ресурсов
Как цитировать
Аннотация
управление ресурсами вычислительного кластера требует прогноза будущей загрузки: недооценка спроса приводит к деградации сервисов, переоценка — к избыточному резервированию и лишним затратам. В работе на данных производственной трассы Alibaba GPU Trace 2020 решается задача краткосрочного прогнозирования почасовой загрузки процессоров, графических ускорителей и оперативной памяти кластера с горизонтом в один час и тестовым окном в 168 часов. События задач агрегированы в почасовые ряды усреднением по времени. Сопоставлены пять моделей: наивный прогноз по последнему наблюдению, модель проинтегрированного скользящего среднего, рекуррентная нейронная сеть с долгой краткосрочной памятью, байесовская динамическая линейная модель и многомерная модель векторной авторегрессии с отбором лагов глубиной до 168 часов. Критерии сравнения — точность прогноза, качество 99-процентного доверительного интервала, точность предсказания направления изменения и экономия резервируемых ресурсов. Наивысшую точность дает байесовская динамическая линейная модель: средняя абсолютная ошибка на 6–9 процентов ниже, чем у наивного прогноза; для оперативной памяти конкурентоспособна рекуррентная сеть, а векторная авторегрессия полезна для прогнозирования загрузки процессоров и ускорителей. Переход от резервирования по историческому максимуму к резервированию по верхней границе прогнозного интервала сокращает объем резерва на 22–30 процентов при покрытии 96–99 процентов.
Литература
Weng Q., Xiao W., Yu Y. et al. MLaaS in the Wild: Workload Analysis and Scheduling in Large-Scale Heterogeneous GPU Clusters. Proceedings of the 19th USENIX Symposium on Networked Systems Design and Implementation (NSDI’22); 2022. Режим доступа: https://www.usenix.org/system/files/nsdi22-paper-weng.pdf.
Amiri M., Mohammad-Khanli L. Survey on Prediction Models of Applications for Resources Provisioning in Cloud. Journal of Network and Computer Applications. 2017;82:93–113. DOI: 10.1016/j.jnca.2017.01.016.
Dinda P. A., O’Hallaron D. R. Host Load Prediction Using Linear Models. Cluster Computing. 2000;3(4):265–280. DOI: 10.1023/A:1019075903624.
Calheiros R. N., Masoumi E., Ranjan R., Buyya R. Workload Prediction Using ARIMA Model and Its Impact on Cloud Applications’ QoS. IEEE Transactions on Cloud Computing. 2015;3(4):449–458. DOI: 10.1109/TCC.2014.2350475.
Hochreiter S., Schmidhuber J. Long Short-Term Memory. Neural Computation. 1997;9(8):1735–1780. DOI: 10.1162/neco.1997.9.8.1735.
Li Y. Y., Do T. V., Nguyen H. T. A Comparison of Forecasting Models for the Resource Usage of MapReduce Applications. Neurocomputing. 2020;418:36–55. DOI: 10.1016/j.neucom.2020.07.059.
Makridakis S., Spiliotis E., Assimakopoulos V. Statistical and Machine Learning Forecasting Methods: Concerns and Ways Forward. PLoS ONE. 2018;13(3):e0194889. DOI: 10.1371/journal.pone.0194889.
Prado R., West M. Time Series: Modeling, Computation, and Inference. New York; 2010. 368 p.
Это произведение доступно по лицензии Creative Commons «Attribution» («Атрибуция») 4.0 Всемирная.