[Seminar] ILLS seminar: Information Analysis and Methods for Representation Learning and Data-Driven Structural Detection

Une conférence sur ILLS aura lieu le Jeudi 24 novembre à 12h00 en mode hybride.

Titre: Analyse de l'information et méthodes d'apprentissage des représentations et de détection structurelle basée sur les données
Jorge F. Silva, Professeur à l'Université du Chili, Santiago du Chili

Abstract:
L'apprentissage automatique et la théorie de l'information sont deux grands domaines de recherche étroitement liés. Dans cette présentation, nous couvrirons deux sujets qui explorent l'utilisation des mesures de la théorie de l'information dans l'apprentissage. Sur le premier thème, nous présenterons des résultats qui montrent à quel point l'adoption de l'information mutuelle est adéquate pour prédire la qualité opérationnelle d'une transformation (ou d'un encodeur) en classification. Ces résultats offrent de nouvelles perspectives sur l'adoption de mesures d'information dans l'apprentissage automatique, comme l'information mutuelle et l'entropie croisée. Pour le deuxième sujet, nous discuterons de l'idée de suffisance de l'information, représentant la structure latente d'un modèle, et explorerons une méthode non paramétrique basée sur les données pour détecter ce type de structure à partir des données. Nous nous concentrerons sur la tâche d'apprentissage-décision consistant à tester l'indépendance à l'aide d'un estimateur d'information mutuelle non paramétrique. Nous présentons des résultats non asymptotiques et asymptotiques qui soutiennent l'avantage de cette approche et élaborons des applications pour l'apprentissage de la structure des données et la détection des changements de modèle.

Bibliographie:
Silva et Tobar, "Sur l'interaction entre la perte d'informations et la perte d'opérations dans les représentations pour la classification", dans AISTATS2022.
Gonzales et al. "Représentations basées sur les données pour tester l'indépendance : modélisation, analyse et connexion avec l'estimation mutuelle des informations", IEEE Trans. sur Signal Proc., 70, 2022.

Courte biographie:
Jorge F. Silva (membre senior, IEEE) est professeur associé au département de génie électrique (EE) de l'Université du Chili et chercheur principal au Centre avancé de génie électrique et électronique de Valparaiso-Chili. Jorge F. Silva a obtenu un M.Sc. et doctorat. en génie électrique de l'Université de Californie du Sud (USC), Los Angeles, CA, États-Unis, 2005 et 2008, respectivement. Jorge F. Silva a été assistant de recherche au Laboratoire d'analyse et d'interprétation des signaux (SAIL), USC, de 2003 à 2008 et a également été stagiaire de recherche au Speech Research Group, Microsoft Corporation, Redmond, en 2005. Il a reçu la thèse exceptionnelle Prix ​​2009 pour la recherche théorique de la Viterbi School of Engineering, la bourse doctorale Viterbi 2007-2008 et la bourse Simon Ramo 2007-2008 USC. Il a été éditeur associé pour les transactions IEEE sur le traitement du signal de 2006 à 2008.

* En personne: ETS-LIVIA, local A-3600.
* Lien de zoom: https://cnrs.zoom.us/j/96338640901?pwd=MkNlT0FFS1c1T2Z6c0dManpLc3l1dz09
* ID de réunion: 963 3864 0901