MATLAB fitlm: régression OLS vs Robust

Question

J'essaie de calculer une régression linéaire de certaines données que j'ai en utilisant l'outil fitlm de MATLAB. En utilisant les moindres carrés ordinaires (MCO), j'obtiens des valeurs de R au carré assez faibles (~ 0,2-0,5), et parfois même des résultats irréalistes. Alors que lorsque j'utilise une régression robuste (en particulier l'option 'talwar'), j'obtiens de bien meilleurs résultats (R2 ~ 0,7-0,8).

Je ne suis pas un statisticien, donc ma question est: Y at-il une raison pour laquelle je devrais pas croire que les résultats robustes sont meilleurs?

Voici un exemple de certaines des données. Les données montrées produisent R2 de OLS: 0.56, robustes: 0.72.

Answer 1

L'une des raisons que vous allez obtenir des différences notables dans les valeurs de R est que le Talwar traite différemment des valeurs aberrantes. Talwar subdivise votre ensemble de données en segments et calcule des moyennes pour chacun de ces segments.

pris dans le résumé de l'article de Talwar:

« Les estimations des paramètres d'un modèle linéaire sont généralement obtenus par la méthode des moindres carrés ordinaires (OLS), qui est sensible à de grandes valeurs de l'erreur d'additif terme ... nous obtenons une estimation initiale simple, cohérente et asymptotiquement normale des coefficients, qui protège l'analyste contre les grandes valeurs de εi qui sont souvent difficiles à détecter en utilisant OLS sur un modèle avec beaucoup de régresseurs. '- https://www.jstor.org/stable/2285386?seq=1#page_scan_tab_contents

Que Talwar ou OLS soit meilleur dépend de votre connaissance du processus de mesure (à savoir, comment les valeurs aberrantes peuvent être expliquées). Le cas échéant, et vous élaguez les données avec un Q-test pour supprimer les valeurs aberrantes (voir http://education.mrsec.wisc.edu/research/topic_guides/outlier_handout.pdf), cela devrait minimiser les différences de R que vous voyez entre Talwar et OLS.