A unified framework for label shift quantification
Cadre unifié pour la quantification label shift
Résumé
In supervised classification, it is not uncommon that the information sought is not local, meaning the label associated to each data point, but global: obtaining the proportions of the different labels within the sample directly. This problem, which we have chosen to refer to as say{label shift quantification} but which is also known by many other names in the literature, has seen a proliferation of publications since the mid-2000s. However, these works often proceed in parallel, coming from communities with limited dialogue, resulting in a scattered bibliography.In this manuscript, we first provide an overview of these diverse works with a twofold aim: first, to bridge the gap between these communities by presenting results from different research areas, and on the other hand, contextualise the subsequent work, particularly focusing on efforts to unify methods. Second, we propose a framework that unifies several classical methods from the literature based on mean vectorisations. We examine the theoretical guarantees of these methods and demonstrate their robustness when the central assumption of label shift is violated. We also extend this work by focusing on kernel-based vectorisations using covariance information rather than just the mean. Finally, we explore the use of a specific vectorisation based on Random Fourier Features in applications related to flow cytometry.
Il n'est pas rare qu'en classification supervisée, l'information recherchée ne soit pas de nature locale, c'est-à-dire associer à chaque point un label, mais de nature globale : obtenir les proportions des différents labels dans l'échantillon.Ce problème, que nous avons choisi de désigner sous le nom de "label shift quantification", mais qui porte aussi de nombreux autres noms dans la littérature, a vu depuis le milieu des années 2000 une multiplication des articles publiés. Cependant, ces travaux sont souvent menés en parallèle, issus de communautés dialoguant peu, ce qui a résulté en une bibliographie parsemée.Dans ce manuscrit, nous proposons d'abord une revue de ces différents travaux avec un double objectif : d'une part, créer un pont entre ces communautés en présentant des résultats issus des différents domaines de recherche, et d'autre part, resituer la suite des travaux menés dans leur contexte, notamment en s'intéressant aux efforts d'unification des méthodes.Dans un second temps, nous proposons un cadre unifiant plusieurs méthodes classiques de la littérature basées sur des vectorisations par moyenne. Nous étudions les garanties théoriques de ces méthodes et montrons des résultats de robustesse lorsque l'hypothèse centrale de label shift n'est plus vérifiée. Nous proposons aussi une extension de ce travail, centrée sur des vectorisations par noyaux, utilisant l'information de la covariance et non plus seulement la moyenne.Enfin, dans un troisième temps, nous nous intéressons à l'utilisation d'une vectorisation particulière basée sur les Random Fourier Features dans des applications en cytométrie en flux.
Origine | Version validée par le jury (STAR) |
---|