Ключевые слова
классификация
сверточные нейронные сети
глубокое обучение
рекуррентные диаграммы
преобразование данных
распознавание образов
извлечение признаков
машинное обучение
Как цитировать
Аннотация
работа посвящена задаче классификации временных рядов с использованием методов глубокого обучения, однако исходный сигнал здесь не обрабатывается напрямую. Сначала его переводят в двумерное представление — через рекуррентные диаграммы, которые фиксируют, когда система возвращается в схожие состояния и насколько часто это происходит. Такой шаг не всегда выглядит очевидным, но на практике упрощает дальнейшую обработку, после него ряд можно рассматривать как изображение и применять сверточные сети. Архитектура при этом остается достаточно стандартной: несколько сверточных слоев, затем подвыборка для уменьшения размерности и полносвязная часть, где формируется итоговое решение. Признаки заранее не задаются, они формируются в процессе обучения, хотя итог сильно зависит от того, насколько удачно выбрано само представление сигнала.
Литература
Fu T.-C. A Review on Time Series Data Mining. Engineering Applications of Artificial Intelligence. 2011;24(1):164–181. DOI: 10.1016/j.engappai.2010.09.007.
Ismail Fawaz H., Forestier G., Weber J., Idoumghar L., Muller P.-A. Deep Learning for Time Series Classification: A Review. Data Mining and Knowledge Discovery. 2019;33:917–963. DOI: 10.1007/s10618-019-00619-1.
Takens F. Detecting Strange Attractors in Turbulence. Dynamical Systems and Turbulence, Warwick 1980. Berlin: Springer; 1981;898:366–381. DOI: 10.1007/BFb0091924.
LeCun Y., Bengio Y., Hinton G. Deep Learning. Nature. 2015;521(7553):436–444. DOI: 10.1038/nature14539.
Mathunjwa B. M., Lin Y.-T., Lin C.-H. et al. ECG Arrhythmia Classification by Using a Recurrence Plot and Convolutional Neural Network. Biomedical Signal Processing and Control. 2021;64:102262. DOI: 10.1016/j.bspc.2020.102262.
Waibel A., Hanazawa T., Hinton G., Shikano K., Lang K. J. Phoneme Recognition Using Time-Delay Neural Networks. IEEE Transactions on Acoustics, Speech, and Signal Processing. 1989;37(3):328–339. DOI: 10.1109/29.21701.
Wang Z., Oates T. Encoding Time Series as Images for Visual Inspection and Classification Using Tiled Convolutional Neural Networks. AAAI Workshop on Artificial Intelligence for Data Science. 2015.
Hatami N., Gavet Y., Debayle J. Classification of Time-Series Images Using Deep Convolutional Neural Networks. 2017. arXiv:1710.00886. DOI: 10.48550/arXiv.1710.00886.
Marwan N., Romano M. C., Thiel M., Kurths J. Recurrence Plots for the Analysis of Complex Systems. Physics Reports. 2007;438(5–6):237–329. DOI: 10.1016/j.physrep.2006.11.001.
Webber C. L., Zbilut J. P. Dynamical Assessment of Physiological Systems and States Using Recurrence Plot Strategies. Journal of Applied Physiology. 1994;76(2):965–973. DOI: 10.1152/jappl.1994.76.2.965.
Eckmann J.-P., Kamphorst S. O., Ruelle D. Recurrence Plots of Dynamical Systems. Europhysics Letters. 1987;4(9):973–977. DOI: 10.1209/0295-5075/4/9/004.
Sipers A., Borm P., Peeters R. Robust Reconstruction of a Signal from Its Unthresholded Recurrence Plot Subject to Disturbances. Physics Letters A. 2017;381(6):604–615. DOI: 10.1016/j.physleta.2016.12.028.
Dau H. A., Bagnall A., Kamgar K. et al. The UCR Time Series Archive. IEEE/CAA Journal of Automatica Sinica. 2019;6(6):1293–1305. DOI: 10.1109/JAS.2019.1911747.
Scherer D., Muller A., Behnke S. Evaluation of Pooling Operations in Convolutional Architectures for Object Recognition. Artificial Neural Networks – ICANN 2010. Berlin: Springer; 2010:92–101. DOI: 10.1007/978-3-642-15825-4_10.
Rumelhart D. E., Hinton G. E., Williams R. J. Learning Representations by Back-Propagating Errors. Nature. 1986;323(6088):533–536. DOI: 10.1038/323533a0.
Werbos P. J. Beyond Regression: New Tools for Prediction and Analysis in the Behavioral Sciences: PhD thesis. Cambridge: Harvard University; 1974.
Chen Y., Keogh E., Hu B. et al. The UCR Time Series Classification Archive. Riverside: University of California; 2015. Режим доступа: https://www.cs.ucr.edu/∼eamonn/time_series_data/.
Chollet F. Keras. GitHub. 2015. Режим доступа: https://github.com/keras-team/keras.