Regresja i niepewność linii prostej dla pomiarów obu zmiennych x i y ze wszystkimi korelacjami

pol Article in Polish DOI: 10.14313/PAR_244/47

send Jacek Grzegorz Puchalski *, Zygmunt Lech Warsza ** * Główny Urząd Miar, ul. Elektoralna 2, 00-001 Warszawa ** Sieć Badawcza Łukasiewicz – Przemysłowy Instytut Automatyki i Pomiarów PIAP, Al. Jerozolimskie 202, 02-486 Warszawa

Download Article

Streszczenie

Praca kontynuuje cykl publikacji o szacowaniu metodą regresji liniowej parametrów równania i granic pasma niepewności linii prostej y = ax + b dopasowanej do wyników pomiarów obu współrzędnych punktów badanych. Rozpatrzono przypadek ogólny, gdy współrzędne te mają różne niepewności i występują wszystkie możliwe autokorelacje i korelacje wzajemne. Zastosowano opis równaniami macierzowymi. Wyniki pomiarów współrzędnych przedstawiono jako elementy wektorów w X i Y. Propagację niepewności opisano macierzą kowariancji UZ o czterech macierzach składowych, tj. UX i UY – dla niepewności i autokorelacji zmiennych X i Y oraz UXY i jej transpozycja U – dla korelacji wzajemnych. Podano równanie linii prostej i granice jej pasma niepewności. Otrzymane je dla funkcji parametrów a i b spełniającej tzw. kryterium totalne WTLS, tj. minimum sumy kwadratów odległości punktów od prostej ważonych przez odwrotności niepewności współrzędnych. Przy nieskorelowaniu współrzędnych różnych punktów stosuje się uproszczone kryterium WLS. Kierunki rzutowania punktów wnikają z minimalizacji funkcji opisującej kryterium. W przypadku ogólnym istnieje tylko rozwiązanie numeryczne. Zilustrowano to przykładem. Parametry a i b linii prostej wyznaczono numerycznie z powiększonych fragmentów wykresu funkcji kryterialnej wokół jej minimum. Podano też warunki wymagane dla niepewności i korelacji współrzędnych punktów, które umożliwiają uzyskanie rozwiązania analitycznego i jego przykład.

Słowa kluczowe

autokorelacja, korelacja wzajemna, kryterium minimalizacji, niepewność, pasmo niepewności, pomiar współrzędnych punktu, prosta regresji, regresja linii prostej, regresja liniowa

Regression and Uncertainty of a Straight-Line for Measurements of x and y Variables with All Correlations

Abstract

The work continues the series of publications on the estimation of the parameters of the equation and the limits of the uncertainty band of the straight-line y = ax + b fitted to the measurement results of both coordinates of the tested points with the use of the linear regression method. A general case was considered when these coordinates have different uncertainties and there are all possible autocorrelations and cross-correlations. Description of matrix equations was used. The results of the coordinate measurements are presented as elements of the X and Y vectors. The propagation of their uncertainty was described by the UZ covariance matrix with four component matrices, i.e., UX and UY – for the uncertainties and autocorrelations of X and of Y, and UXY and its transposition U – for the cross-correlations. The equation of a straight line and of the borders of its uncertainty band are given. Obtained them for the function of parameters a and b satisfying the so-called total criterion WTLS, i.e., the minimum sum of squared distances of points from the straight line weighted by the reciprocal of the coordinate uncertainty. When the coordinates of different points are not correlated, the simplified criterion WLS is used. The directions of projecting the points result from the minimization of the function describing the criterion. In the general case, there is only a numerical solution. This is illustrated by an example, in which the parameters a and b of the straight line were determined numerically from the enlarged fragments of the graph of the criterion function around its minimum. The conditions for the uncertainty and correlation of coordinates of points required to obtain an analytical solution and its example are also given.

Keywords

autocorrelation, cross-correlation, linear regression, measurement of point coordinates, minimization criterion, regression straight-line, uncertainty, uncertainty band

Bibliography

  1. Amiri-Simkooei A.R., Zangeneh-Nejad F., Asgari J., Jazaeri S., Estimation of straight-line parameters with fully correlated coordinates. “Measurement”, Vol. 48, 2014, 378–386, DOI: 10.1016/j.measurement.2013.11.005.
  2. Dorozhovets M., Warsza Z.L., Udoskonalenie metod wyznaczania niepewności wyników pomiaru w praktyce. „Przegląd Elektrotechniczny”, R. 83, Nr 1, 2007, 1–13.
  3. Dorozhovets M., Warsza Z.L., Propozycje rozszerzenia metod wyznaczania niepewności wyniku pomiarów wg Przewodnika GUM (2), „Pomiary Automatyka Robotyka”, R. 11, Nr 2, 2007, 45–52.
  4. Dorozhovets M., Warsza Z.L., Wyznaczanie niepewności typu A pomiarów o skorelowanych rezultatach obserwacji. „Pomiary Automatyka Kontrola”, Nr 2, 2007, 20–25.
  5. Dorozhovets M., Warsza Z., Methods of upgrading the uncertainty of type A evaluation, Part 2. Elimination of the influence of autocorrelation of observations and choos ing the adequate distribution, Proceedings of 15th IMEKO TC4 Symposium, Iasi Romania, 2007, 199–204.
  6. Dorozhvets M., Uwzględnienie niepewności pomiaru obydwu wielkości w regresji liniowej. „Pomiary Automatyka Kontrola”, Vol. 54, Nr 2, 2008, 3–5.
  7. Draper R.D., Smith H., Applied Regression Analysis, 3rd Edition Willey New York 1998.
  8. Elster C., Bayesian uncertainty analysis compared with the application of the GUM and its supplements. “Metrologia”, Vol. 51, No. 4, 2013, 159–166, DOI: 10.1088/0026-1394/51/4/S159.
  9. Fang X., A structured and constrained total leastsquares solution with cross-covariances. “Studia geophysica et geodaetica”, Vol. 58, 2014, 1–16, DOI: 10.1007/s11200-012-0671-z.
  10. Stuart A., Kendall’s Advanced Theory of Statistics, Vol. 2. Charles Griffin Co Ltd., London, 3 ed. 1973.
  11. Krystek M., Anton M., A weighted total least-squares algorithm for fitting a straight line, “Measurement Science and Technology”, Vol. 18, 2007, 3438–3442, DOI: 10.1088/0957-0233/18/11/025.
  12. Malengo A., Pennecchi F., A weighted total least-squares algorithm for any fitting model with correlated variables. “Metrologia”, Vol. 50, No. 6, 2013, DOI: 10.1088/0026-1394/50/6/654.
  13. Puchalski J., A new algorithm for generalization of least square method for straight line regression in Cartesian System for fully correlated both coordinates. “International Journal of Automation, Artificial Intelligence and Machine Learning”, Vol. 2, No. 2, 2021, 20–54.
  14. Telnghuisen J., Least squares methods of treating problems with uncertainty in x and y. “Analytical chemistry” ACS publications, Vol. 19, No. 16, 2020, 10863–10871, DOI: 10.1021/acs.analchem.0c02178.
  15. Van Huffel S., Vandewalle J., The Total Least Squares Problem, Philadelphia, SIAM, 1991, DOI: 10.1137/1.9781611971002.
  16. Warsza Z.L., Dorozhovets M., Uncertainty type A evaluation of autocorrelated measurement observations. “Biuletyn WAT”, Vol. LVII, Nr 2, 2008, 143–152.
  17. Warsza Z.L., Zięba A., Niepewność typu A pomiaru o obserwacjach samoskorelowanych. “Pomiary Automatyka Kontrola”, R. 58, Nr 2, 2012, 157–161.
  18. Warsza Z.L., Evaluation of the type A uncertainty in measurements with autocorrelated observations. “Journal of Physics. Conference series”, 2013, DOI: 10.1088/1742-6596/459/1/012035.
  19. Warsza Z.L., Puchalski J., Udoskonalona metoda wyznaczania niepewności w pomiarach wieloparametrowych. Część 1. Podstawy teoretyczne dla skorelowanych wielkości mierzonych. „Pomiary Automatyka Robotyka”, R. 23, Nr 1, 2019, 47–58, DOI: 10.14313/PAR_231/47.
  20. Warsza Z.L., Puchalski J., Estimation of uncertainties in indirect parameter measurements of correlated quantities. Proceedings of 12th International Conference “Measurement 2019”, 51–57, DOI: 10.23919/MEASUREMENT47340.2019.8780042.
  21. Warsza Z.L., Puchalski J., Rozszerzona metoda oceny niepewności pośrednich pomiarów wieloparametrowych i układów do tych pomiarów Cz. 1. Wpływ korelacji i niepewności funkcji przetwarzania – zależności podstawowe. „Pomiary Automatyka Robotyka”, R. 23, Nr 3, 2019, 55–63, DOI: 10.14313/PAR_233/55.
  22. Warsza Z.L., Puchalski J., Rozszerzona metoda oceny niepewności pośrednich pomiarów wieloparametrowych i układów do tych pomiarów Cz. 2. Przykład zastosowania -pomiary za pośrednictwem czwórnika, „Pomiary Automatyka Robotyka”, R. 23, Nr 4, 2019, 87–100, DOI: 10.14313/PAR_234/87.
  23. Warsza Z.L., Puchalski J., Method of estimation uncertainties of indirect multivariable measurement including accuracy of processing function as extension of GUM-S2. Advanced Mathematical and Computational Tools in Metrology and Testing AMCTM XII. Pavese F., Forbes A.B., Zhang N.F., Chunovkina A.G. (eds.): Series on Advances in Mathematics for Applied Sciences. Vol. 90, 2021, 451–463, DOI: 10.1142/9789811242380_0029.
  24. Warsza Z.L., Puchalski J., Niepewności pomiarów w metodzie regresji liniowej. Cz. 1. Prosta i jej pasma niepewności dla nieskorelowanych danych pomiarowych, „Pomiary Automatyka Robotyka”, R. 24, Nr 3, 2020, 79–91, DOI: 10.14313/PAR_237/79.
  25. Warsza Z.L., Puchalski J., Niepewności pomiarów w metodzie regresji liniowej. Część 2. Niepewności prostej regresji dla zmiennej Y o skorelowanych danych, „Pomiary Automatyka Robotyka”, R. 24, Nr 4, 2020, 61–72, DOI: 10.14313/PAR_238/61.
  26. Warsza Z.L., Puchalski J., Uncertainty Bands of the Regression Line for Data with Type A and Type B Uncertainties of Dependent Variable Y. Proceedings of 22nd Conference on Automation 2021, Vol. 1390, 342–363, DOI: 10.1007/978-3-03074893-7_32.
  27. Warsza Z.L., Puchalski J., Uncertainty bands of the regression line for autocorrelated data of dependent variable Y. Proceedings of 22nd Conference on Automation 2021, Vol. 1390, 364–386, DOI: 10.1007/978-3-03074893-7_33.
  28. Warsza Z.L., Puchalski J., Ocena dokładności pomiarów w metodzie regresji liniowej z uwzględnieniem zasad przewodnika GUM. „Metrologia Teoria i Praktyka” (Materiały 53. Międzyuczelnianej Konferencji Metrologów 53 MKM Warszawa Główny Urząd Miar 13–16 09. 2021) Politechnika Opolska 2021, 59–104.
  29. York D., Evensen M.N., Lopez Martines M., De Basabe Delgato J., Unified equations for the slope, intercept, and Standard errors for the best straight line, “American Journal of Physics”, Vol. 72, No. 3, 2004, 367–375, DOI: 10.1119/1.1632486.
  30. Zięba A., Effective number of observations and unbiased estimators of variance for autocorrelated data – an overview, “Metrology and Measurement Systems”, Vol. 17, Nr 1, 2010, 3–16.
  31. BIPM, IEC, IFCC, ILAC, ISO, IUPAC, IUPAP, OIML. Evaluation of measurement data – Guide to the expression of uncertainty in measurement. Joint Committee for Guides in Metrology, and a. JCGM 100, 2008. JCGM101:2008 Supplement 1. Propagation of distributions using a Monte Carlo method; b. JCGM102:2011. Extension to any number of output quantities.
  32. NEW04 “Novel mathematical and statistical approaches to uncertainty evaluation” (08/2012-07/2015) funded by the European Metrology Research Program (EMRP) 2015A “Guide to Bayesian Inference for Regression Proble