Estimation of regression parameters of two dimensional probability distribution mixtures

We use two methods of estimation parameters in a mixture regression: maximum likelihood (MLE) and the least squares method for an implicit interdependence. The most popular method for maximum likelihood esti-mation of the parameter vector is the EM algorithm. The least squares method for an implicit interdependence is based solving systems of nonlinear equations. Most frequently used method in the estimation of parameters mixtures regression is the method of maximum likelihood. The article presents the possibility of using a different the least squares method for an implicit interdependence and compare it with the maximum likelihood method. We compare accuracy of two methods of estimation by simulation using bias: root mean square error and bootstrapping standard errors of estimation.

Do estymacji parametrów mieszanek regresji stosujemy dwie metody: metodę największej wiarygodności oraz metodę najmniejszych kwadratów dla zależności niejawnych. Najbardziej popularną metodą polegającą na maksymalizacji funkcji wiarygodności jest algorytm EM. Metoda najmniejszych kwadratów dla zależności niejawnych polega na rozwiązaniu układu równań nieliniowych. Najczęściej stosowaną metodą estymacji parametrów mieszanek regresji jest metoda największej wiarygodności. W artykule pokazano możliwość zastosowania innej metody najmniejszych kwadratów dla zależności niejawnych. Obie metody porównujemy symulacyjnie, używając obciążenia estymatora, pierwiastka błędu średniokwadratowego estymatora oraz bootstrapowe błędy standardowe.