Centre de documentation
scientifique

Convex programming approach to robust estimation of a multivariate Gaussian model / Samuel Balmand (2016)    

Public contenu dans ArXiv / Université Cornell (Etats-Unis) (1991)   Titre : Convex programming approach to robust estimation of a multivariate Gaussian model Type de document : Article/Communication Auteurs : Samuel Balmand , Auteur ; Arnak Dalalyan, Auteur Editeur : Ithaca [New York - Etats-Unis] : ArXiv - Université Cornell Année de publication : 2016 Importance : 31 p. Format : 21 x 30 cm Note générale : bibliographie Langues : Anglais (eng) Descripteur : [Vedettes matières IGN] Statistiques [Termes IGN] distribution de Gauss [Termes IGN] estimateur [Termes IGN] matrice de covariance [Termes IGN] méthode des moindres carrés [Termes IGN] valeur aberrante Résumé : (auteur) Multivariate Gaussian is often used as a first approximation to the distribution of high-dimensional data. Determining the parameters of this distribution under various constraints is a widely studied problem in statistics, and is often considered as a prototype for testing new algorithms or theoretical frameworks. In this paper, we develop a nonasymptotic approach to the problem of estimating the parameters of a multivariate Gaussian distribution when data are corrupted by outliers. We propose an estimator efficiently computable by solving a convex program|that robustly estimates the population mean and the population covariance matrix even when the sample contains a signi?cant proportion of outliers. Our estimator of the corruption matrix is provably rate optimal simultaneously for the entry-wise `1-norm, the Frobenius norm and the mixed `2=`1 norm. Furthermore, this optimality is achieved by a penalized square-root-of-least-squares method with a universal tuning parameter (calibrating the strength of the penalization). These results are partly extended to the case where p is potentially larger than n, under the additional condition that the inverse covariance matrix is sparse. Note de contenu : bibliographie Numéro de notice : P2016-001 Affiliation des auteurs : ENSG+Ext (2012-2019) Thématique : MATHEMATIQUE Nature : Preprint nature-HAL : Préprint DOI : 10.48550/arXiv.1512.04734 Date de publication en ligne : 06/02/2016 En ligne : https://doi.org/10.48550/arXiv.1512.04734 Format de la ressource électronique : URL article Permalink : https://documentation.ensg.eu/index.php?lvl=notice_display&id=91897

Documents numériques

en open access Convex programming approach... - pdf auteur Adobe Acrobat PDF

On estimation of the diagonal elements of a sparse precision matrix / Samuel Balmand in Electronic Journal of Statistics, vol 10 n° 1 (January 2016)    

Public [article]  inElectronic Journal of Statistics > vol 10 n° 1 (January 2016) . - pp 1551 - 1579 Titre : On estimation of the diagonal elements of a sparse precision matrix Type de document : Article/Communication Auteurs : Samuel Balmand , Auteur ; Arnak Dalalyan, Auteur Année de publication : 2016 Article en page(s) : pp 1551 - 1579 Note générale : Bibliographie Langues : Anglais (eng) Descripteur : [Vedettes matières IGN] Statistiques [Termes IGN] calcul matriciel [Termes IGN] estimateur [Termes IGN] matrice creuse [Termes IGN] matrice de covariance [Termes IGN] matrice diagonale [Termes IGN] méthode du maximum de vraisemblance (estimation) [Termes IGN] régression linéaire [Termes IGN] résidu Résumé : (Auteur) In this paper, we present several estimators of the diagonal elements of the inverse of the covariance matrix, called precision matrix, of a sample of independent and identically distributed random vectors. The main focus is on the case of high dimensional vectors having a sparse precision matrix. It is now well understood that when the underlying distribution is Gaussian, the columns of the precision matrix can be estimated independently form one another by solving linear regression problems under sparsity constraints. This approach leads to a computationally efficient strategy for estimating the precision matrix that starts by estimating the regression vectors, then estimates the diagonal entries of the precision matrix and, in a final step, combines these estimators for getting estimators of the off-diagonal entries. While the step of estimating the regression vector has been intensively studied over the past decade, the problem of deriving statistically accurate estimators of the diagonal entries has received much less attention. The goal of the present paper is to fill this gap by presenting four estimators —that seem the most natural ones— of the diagonal entries of the precision matrix and then performing a comprehensive empirical evaluation of these estimators. The estimators under consideration are the residual variance, the relaxed maximum likelihood, the symmetry-enforced maximum likelihood and the penalized maximum likelihood. We show, both theoretically and empirically, that when the aforementioned regression vectors are estimated without error, the symmetry-enforced maximum likelihood estimator has the smallest estimation error. However, in a more realistic setting when the regression vector is estimated by a sparsity-favoring computationally efficient method, the qualities of the estimators become relatively comparable with a slight advantage for the residual variance estimator. Numéro de notice : A2016--107 Affiliation des auteurs : LASTIG MATIS+Ext (2012-2019) Thématique : MATHEMATIQUE Nature : Article nature-HAL : ArtAvecCL-RevueIntern DOI : 10.1214/16-EJS1148 Date de publication en ligne : 31/05/2016 En ligne : http://dx.doi.org/10.1214/16-EJS1148 Format de la ressource électronique : URL Article Permalink : https://documentation.ensg.eu/index.php?lvl=notice_display&id=84707 [article]

Documents numériques

en open access A2016--107_On_estimation_of_the_diagonal_elements_of_a_sparse_precision_matrix.pdf Adobe Acrobat PDF

Some contributions to large precision matrix estimation / Samuel Balmand (2016)  

Public Titre : Some contributions to large precision matrix estimation Titre original : Quelques contributions à l'estimation de grandes matrices de précision Type de document : Thèse/HDR Auteurs : Samuel Balmand , Auteur ; Arnak Dalalyan, Directeur de thèse ; Marc Pierrot-Deseilligny , Directeur de thèse Editeur : Champs/Marne : Université Paris-Est Marne-la-Vallée UPEM Année de publication : 2016 Importance : 157 p. Format : 21 x 30 cm Note générale : Bibliographie Thèse présentée pour l'obtention du grade de Docteur de l'Université Paris-Est, spécialité Mathématiques Langues : Anglais (eng) Descripteur : [Vedettes matières IGN] Traitement d'image [Termes IGN] classification automatique [Termes IGN] classification par maximum de vraisemblance [Termes IGN] estimateur [Termes IGN] matrice [Termes IGN] matrice de covariance [Termes IGN] processus gaussien [Termes IGN] régression linéaire [Termes IGN] résidu [Termes IGN] temps de convergence [Termes IGN] valeur aberrante [Termes IGN] vitesse Index. décimale : THESE Thèses et HDR Résumé : (auteur) Sous l'hypothèse gaussienne, la relation entre indépendance conditionnelle et parcimonie permet de justifier la construction d'estimateurs de l'inverse de la matrice de covariance — également appelée matrice de précision — à partir d'approches régularisées. Cette thèse, motivée à l'origine par la problématique de classification d'images, vise à développer une méthode d'estimation de la matrice de précision en grande dimension, lorsque le nombre n d'observations est petit devant la dimension p du modèle. Notre approche repose essentiellement sur les liens qu'entretiennent la matrice de précision et le modèle de régression linéaire. Elle consiste à estimer la matrice de précision en deux temps. Les éléments non diagonaux sont tout d'abord estimés en considérant p problèmes de minimisation du type racine carrée des moindres carrés pénalisés par la norme L. Les éléments diagonaux sont ensuite obtenus à partir du résultat de l'étape précédente, par analyse résiduelle ou maximum de vraisemblance. Nous comparons ces différents estimateurs des termes diagonaux en fonction de leur risque d'estimation. De plus, nous proposons un nouvel estimateur, conçu de sorte à tenir compte de la possible contamination des données par des outliers, grâce à l'ajout d'un terme de régularisation en norme mixte l2/l1. L'analyse non-asymptotique de la convergence de notre estimateur souligne la pertinence de notre méthode. Note de contenu : Introduction 0.1 Notation 0.2 Sparsity assumption 0.3 Parsimonious precision matrix estimation 0.4 Advances in sparse linear regression 0.5 Regularity properties 0.6 Contributions 0.7 Manuscript organization 1 Estimation of the diagonal elements 1.1 Introduction 1.2 Preliminaries on precision matrix estimation 1.3 Four estimators of the variance of noise 1.4 Experimental evaluation 1.5 Conclusion 2 Robust estimation 2.1 Introduction 2.2 Moderate dimensional case: theoretical results . 2.3 Discussion and extensions to high dimension 2.4 Technical results and proofs 2.5 Algorithmic aspects 2.6 Empirical evaluation 2.7 Perspectives Conclusion A Supplementary proofs B Additional experimental results C Overview of the DESP package Numéro de notice : 15937 Affiliation des auteurs : LASTIG MATIS (2012-2019) Thématique : IMAGERIE/MATHEMATIQUE Nature : Thèse française Note de thèse : Thèse de doctorat : Mathématiques : Paris-Est : 2016 Organisme de stage : MATIS (IGN) nature-HAL : Thèse DOI : sans En ligne : https://tel.hal.science/tel-01501678 Format de la ressource électronique : URL Permalink : https://documentation.ensg.eu/index.php?lvl=notice_display&id=81270

Exemplaires(1)

Code-barres	Cote	Support	Localisation	Section	Disponibilité
15937-01	THESE	Livre	Centre de documentation	Travaux d'élèves	Disponible