Estymacja parametrów asymetrycznych procesów niegaussowskich o średniej kroczącej metodą maksymalizacji wielomianu stochastycznego PMM

pol Article in Polish DOI: 10.14313/PAR_250/71

Serhii Zabolotnii *, send Zygmunt Lech Warsza **, Oleksandr M. Tkachenko *** * Państwowa Wyższa Szkoła Biznesu w Czerkasach, Ukraina ** Sieć Badawcza Łukasiewicz - Przemysłowy Instytut Automatyki i Pomiarów PIAP,, Al. Jerozolimskie 202, 02-486 Warszawa *** Uniwersytet Narodowy w Użhorodzie, Ukraina

Download Article

Streszczenie

W artykule rozważa się zastosowanie metody maksymalizacji wielomianów stochastycznych PMM do oszacowania parametrów niegaussowskiego modelu procesów o średniej ruchomej. Jest to podejście adaptacyjne oparte na analizie statystyk wyższego rzędu. Rozpatrywany są procesy o rozkładzie asymetrycznym ze średnią ruchomą. Wykazano, że Metodą Maksymalizacji Wielomianu (II rzędu) uzyskuje się asymptotyczne wariancje oszacowań wyrażeń analitycznych, które pozwalają na znalezienie oszacowań i analizę ich niepewności. Otrzymuje się znacznie mniejsze wariancje niż w oszacowaniu klasycznym opartym na minimalizacji warunku sumy kwadratów lub maksymalizacji funkcji największej wiarygodności w przypadku rozkładu Gaussa. Wzrost dokładności zależy od wartości współczynnika asymetrii i kurtozy reszt. Wyniki modelowania statystycznego metodą Monte Carlo potwierdzają skuteczność proponowanego podejścia.

Słowa kluczowe

estymator, maksymalizacja, procesy niegaussowskie, średnia krocząca, statystyki wyższego rzędu, wielomian stochastyczny PMM

Estimation of Parameters of Non-Gaussian Asymmetric Processes with a Moving Average Using the Polynomial Maximization Method PMM

Abstract

In this paper consider is the application of the Polynomial Maximization Method PMM to find estimates of the parameters of non-Gaussian Moving Average model. This approach is adaptive and is based on the analysis of higher-order statistics. The case of asymmetry of distributions of Moving Average of the stochastic processes is also considered. It is shown that the asymptotic variance of estimates of the Polynomial Maximization Method (2nd order) have such analytical expressions, whose allow to finding estimates and analyzing their uncertainties. Above approach can be significantly less than the variance of the classic estimates based on minimizing the Conditional Sum of Squares or Maximum Likelihood (in the Gaussian case). The increase of accuracy depends on the values of the coefficient’s asymmetry and the kurtosis of residuals. The results of statistical modeling by the Monte Carlo Method confirm the effectiveness of the proposed approach.

Keywords

estimator, higher order statistics, moving average, non-Gaussian processes, stochastic polynomial maximization PMM

Bibliography

  1. Li W.K., McLeod A.I., ARMA modelling with non-Gaussian innovations. „Journal of Time Series Analysis”, Vol. 9, No. 2, 1988, 155–168, DOI: 10.1111/j.1467-9892.1988.tb00461.x.
  2. Tiku M.L., Wong W.-K., Vaughan D.C., Bian G., Time Series Models in Non-Normal Situations: Symmetric Innovations. „Journal of Time Series Analysis”, Vol. 21, No. 5, 2000, 571–596. DOI: 10.1111/1467-9892.00199.
  3. Ozaki T., Iino M., An innovation approach to non-Gaussian time series analysis. „Journal of Applied Probability”, Vol. 38(A), 2001, 78–92.
  4. Barnard R.W., Trindade A.A., Indika R., Wickramasinghe P., Autoregressive Moving Average Models Under Exponential Power Distributions. ProbStat Forum, Vol. 07, 2014, 65–77. www.probstat.org.in.
  5. Nguyen H.D., McLachlan G.J., Ullmann J.F., Janke A.L., Laplace mixture autoregressive models. „Statistics & Probability Letters”, Vol. 110, 2016, 18–24, DOI: 10.1016/j.spl.2015.11.006.
  6. Rojas I., Pomares H., Valenzuela O., Rojas F., Herrera L.J., Dhull M.S., Kumar A., Expectation-Maximization Algorithm for Autoregressive Models with Cauchy Innovations. „Engineering Proceedings”, Vol. 18, No. 1, 2022, DOI: 10.3390/engproc2022018021.
  7. Beran R., Adaptive estimates for autoregressive processes. „Annals of the Institute of Statistical Mathematics”, Vol. 28, No. 1, 1976, 77–89, DOI: 10.1007/BF02504731.
  8. Phillips R.F., Partially adaptive estimation via a normal mixture. „Journal of Econometrics”, Vol. 64, No. 1–2, 1994, 123–144, DOI: 10.1016/0304-4076(94)90060-4.
  9. Swami A., Mendel J.M., ARMA Parameter Estimation Using Only Output Cumulants. „IEEE Transactions on Acoustics, Speech, and Signal Processing”, Vol. 38, No. 7, 1990, 1257–1265, DOI: 10.1109/29.57554.
  10. Giannakis G.B., On Estimating Noncausal Nonminimum Phase ARMA Models of Non-Gaussian Processes. „IEEE Transactions on Acoustics, Speech, and Signal Processing”, Vol. 38, No. 3, 1990, 478–495, DOI: 10.1109/78.127981.
  11. Al-Smadi A., Alshamali A., Fitting ARMA models to linear non-Gaussian processes using higher order statistics. „Signal Processing”, Vol. 82, No. 11, 2002, 1789–1793, DOI: 10.1016/S0165-1684(02)00340-7.
  12. Al-Smadi A., Cumulant-based approach to FIR system identification. „International Journal of Circuit Theory and Applications”, Vol. 31, No. 6, 2003, 625–636, DOI: 10.1002/cta.254.
  13. Rosadi D., Filzmoser P., Robust second-order least-squares estimation for regression models with autoregressive errors. „Statistical Papers”, Vol. 60, 2019, 105–122, DOI: 10.1007/s00362-016-0829-9.
  14. Kunchenko Y., Polynomial Parameter Estimations of Close to Gaussian Random variables. Germany, Aachen: Shaker Verlag, 2002.
  15. Zabolotnii S., Warsza Z.L., Tkachenko O., Polynomial Estimation of Linear Regression Parameters for the Asymmetric PDF of Errors. [In:] Szewczyk R., Zieliński C., Kaliczyńska M. (eds) „Automation 2018. Advances in Intelligent Systems and Computing”, Vol. 743, 2018, Springer, Cham. DOI: 10.1007/978-3-319-77179-3_75.
  16. Zabolotnii S., Tkachenko O., Warsza Z.L., Application of the Polynomial Maximization Method for Estimation Parameters in the Polynomial Regression with Non-Gaussian Residuals. [In:] Szewczyk R., et all (eds) „Automation 2021: Recent Achievements in Automation, Robotics and Measurement Techniques. Advances in Intelligent Systems and Computing”, Vol. 1390. 2021, Springer, Cham. DOI: 10.1007/978-3-030-74893-7_36.
  17. Zabolotnii S., Tkachenko O., Warsza Z.L., Application of the Polynomial Maximization Method for Estimation Parameters of Autoregressive Models with Asymmetric Innovations. [In:] Szewczyk R., et all. (eds) „Automation 2022: New Solutions and Technologies for Automation, Robotics and Measurement Techniques. Advances in Intelligent Systems and Computing”, Vol. 1427. 2022, Springer, Cham. DOI: 10.1007/978-3-031-03502-9_37.