RECHERCHE & INNOVATION

SEMINAIRES
PUBLICATIONS
MÉMOIRES

ENREGISTREMENTS VIDÉO

LIVIA Montréal

LIVIA Montréal
par Reda Bensaid, doctorant, Polytechnique Montréal et IMT Atlantique Résumé : Au cours de la dernière décennie, la norme de facto pour la formation de modèles d'apprentissage de représentations hautement performants s'est fortement appuyée sur des ensembles de données statiques à grande échelle extraits d'Internet. Cependant, les progrès récents dans la création de contenu visuel remettent en question ce statu quo en poussant les chercheurs à exploiter des modèles de génération d’images très performants en tant que modèles mondiaux fonctionnant en tandem avec des modèles d’apprentissage des représentations en leur fournissant des données. Dans cet exposé, j'aborderai deux questions de recherche : (1) Les modèles génératifs d'images de pointe sont-ils optimisés pour fonctionner comme des modèles mondiaux ? et (2) Quelle est la manière la plus efficace de guider le modèle génératif pour produire des échantillons utiles pour la tâche en aval ? Bio : Je m'appelle Reda Bensaid. Je suis actuellement en 2e année de doctorat à Polytechnique Montréal et IMT Atlantique, où je me spécialise dans la compression et l'adaptation de modèles de fondements de vision pour la segmentation sémantique en quelques plans. Originaire du Maroc, j'ai étudié les mathématiques et la physique avant d'obtenir mon diplôme d'ingénieur à IMT Atlantique en France. Avant de commencer mon doctorat, j'ai travaillé comme data scientist. Découvrez plus d’informations liées à nos recherches sur le site LIVIA : https://liviamtl.ca/
par Quentin BERTRAND, chercheur postdoctoral, MILA Résumé : Au cours de la dernière décennie, la norme de facto pour la formation de modèles d'apprentissage de représentations hautement performants s'est fortement appuyée sur des ensembles de données statiques à grande échelle extraits d'Internet. Cependant, les progrès récents dans la création de contenu visuel remettent en question ce statu quo en poussant les chercheurs à exploiter des modèles génératifs d’images très performants en tant que modèles mondiaux fonctionnant en tandem avec des modèles d’apprentissage des représentations en leur fournissant des données. Dans cet exposé, j'aborderai deux questions de recherche : (1) Les modèles génératifs d'images de pointe sont-ils optimisés pour fonctionner comme des modèles mondiaux ? ; et (2) Quelle est la manière la plus efficace de guider le modèle génératif pour produire des échantillons utiles pour la tâche en aval ? Bio : Adriana Romero-Soriano est actuellement chercheuse scientifique à Meta AI (FAIR), professeure adjointe à l'Université McGill, membre industriel principal de Mila et titulaire d'une chaire Canada-CIFAR. Le terrain de jeu de ses recherches a été défini par des problèmes qui nécessitent de déduire des observations complètes à partir de données sensorielles limitées, en construisant des modèles du monde dans le but d'améliorer de manière responsable les applications en aval ayant un impact. Ses recherches les plus récentes portent sur l'amélioration de la qualité, de la cohérence et de la diversité des représentations des systèmes de création de contenu visuel. Adriana a obtenu son doctorat. Elle a obtenu son doctorat à l'Université de Barcelone, où elle a travaillé avec le Dr Carlo Gatta, et a passé deux ans en tant que chercheuse postdoctorale à Mila, en collaboration avec le professeur Yoshua Bengio. Découvrez plus d’informations liées à nos recherches sur le site LIVIA : https://liviamtl.ca/
par Masih Aminbeidokhti, doctorant, LIVIA-ETS Résumé : L'augmentation des données est l'une des techniques les plus efficaces pour régulariser les modèles d'apprentissage profond et améliorer les performances de reconnaissance dans diverses tâches et domaines. Cependant, cela s'applique aux paramètres standard du domaine où les données de formation et de test suivent la même distribution. La meilleure recette pour augmenter les données n’est pas claire dans le cas hors domaine, où les données de test suivent une distribution différente et inconnue. Dans cet article, nous montrons que pour les paramètres hors domaine et de généralisation de domaine, l'augmentation des données peut fournir une amélioration visible et robuste des performances. Pour ce faire, nous proposons une procédure de formation simple : (i) utiliser un échantillonnage uniforme sur les transformations d'augmentation de données standard, (ii) augmenter les transformations de force pour tenir compte de la variance de données plus élevée attendue lorsque l'on travaille hors domaine, et (iii) concevoir une nouvelle fonction de récompense pour rejeter les transformations extrêmes qui peuvent nuire à l'entraînement. Avec cette procédure, notre schéma d'augmentation des données atteint un niveau de précision comparable ou supérieur aux méthodes de pointe sur les ensembles de données de généralisation de domaines de référence. Article disponible sur : https://arxiv.org/pdf/2310.06670.pdf Découvrez plus d'informations relatives à nos recherches sur le site Web de LIVIA : https://liviamtl.ca/
par Heitor Rapela Medeiros, doctorant, LIVIA-ETS Résumé : La traduction d'images est un moyen puissant d'adapter un modèle de reconnaissance visuelle à un nouveau domaine. Cependant, les approches courantes de traduction d'images se concentrent uniquement sur la génération de données à partir de la même distribution que le domaine cible. Étant donné une application multimodale, telle que la détection de piétons à partir d'images aériennes, avec un changement considérable dans la distribution des données entre les images infrarouges (IR) et visibles (RVB), une traduction axée sur la génération pourrait conduire à de mauvaises performances car la perte se concentre sur des images non pertinentes. détails de la tâche. Dans cet article, nous proposons HalluciDet, un modèle de traduction d'images IR-RVB pour la détection d'objets. Au lieu de se concentrer sur la reconstruction de l'image originale sur la modalité IR, il cherche à réduire la perte de détection d'un détecteur RVB, évitant ainsi d'avoir besoin d'accéder aux données RVB. Ce modèle produit une nouvelle représentation d'image qui met en valeur les objets d'intérêt dans la scène et améliore considérablement les performances de détection. Nous comparons empiriquement notre approche aux méthodes de pointe pour la traduction d'images et pour le réglage fin de l'IR, et montrons que notre HalluciDet améliore la précision de détection dans la plupart des cas en exploitant les informations privilégiées codées dans un détecteur RVB pré-entraîné. Article disponible sur : https://arxiv.org/pdf/2310.04662.pdf Découvrez plus d'informations relatives à nos recherches sur le site Web de LIVIA : https://liviamtl.ca/
par Jean Paul Barddal, professeur, Pontifícia Universidade Católica do Paraná Résumé : Le traitement et l'analyse de séquences de données potentiellement illimitées, appelées flux de données, sont essentielles dans de multiples applications. Cependant, supposer que ces flux sont stationnaires est voué à l’échec. Dans cet exposé, nous discuterons de ce qu'est l'exploration de flux de données et des défis fondamentaux qu'elle pose, notamment l'apprentissage au fil du temps, les restrictions informatiques et la dérive des concepts. Enfin, je présenterai certaines des recherches en cours que nous menons dans notre groupe de recherche, notamment l'exploration de flux de données vertes, l'adaptation de la dérive des concepts dans la classification d'images et les flux de données textuels. Bio : Jean Paul Barddal a obtenu son doctorat. en informatique du Programme d'études supérieures en informatique (PPGIA), en 2018, où il est actuellement professeur. Il est également membre exécutif du Center for Artificial Intelligence Solutions (CISIA) et de l'Artificial Intelligence Institute (AI2). Ses sujets de recherche incluent l'apprentissage automatique à partir de flux de données, y compris les systèmes de classification, de régression, de clustering et de recommandation. Il a publié plus de 60 articles, notamment sur les développements d'algorithmes d'exploration de flux de données ou sur leur application à des problèmes du monde réel. Découvrez plus d’informations liées à nos recherches sur le site LIVIA : https://liviamtl.ca/
par Quentin BERTRAND, chercheur post-doctorant, MILA Résumé : Depuis plusieurs années, les techniques de deep learning sont appliquées avec succès à l'imagerie médicale en général, et à l'échocardiographie en particulier. Loin d'être la panacée promise, ces méthodes ont permis des avancées majeures dans de nombreux domaines spécifiques comme l'acquisition d'images, l'analyse d'échocardiogramme, la segmentation et le suivi de structures anatomiques ou encore le guidage des utilisateurs. De plus, la combinaison de ces différentes techniques permet le déploiement de chaînes de traitement complètes et entièrement automatisées, permettant d'augmenter la fiabilité des mesures cliniques et de faciliter l'utilisation des échographes en dehors des hôpitaux. Dans mon exposé, je décrirai nos dernières contributions sur la segmentation de séquences échocardiographiques pour l'estimation automatique d'indices cliniques. Notre objectif ultime est de développer une méthodologie pour résoudre définitivement ce problème vieux de 30 ans. Cela comprend actuellement la conception de bases de données appropriées, l'exploitation du formalisme VAE et la modélisation de l'incertitude via le cadre CLIP. Bio : Olivier Bernard est titulaire d'un diplôme d'ingénieur électrique et d'un doctorat. de l'Université de Lyon (INSA), France, respectivement en 2003 et 2006. Il a été postdoctorant au sein du Groupe d'imagerie biomédicale de l'Institut polytechnique fédéral de Lausanne, EPFL, Suisse en 2007. Actuellement, il est professeur à l'Université de Lyon (INSA) et au laboratoire CREATIS en France. Il dirige également l’équipe de recherche Myriad, spécialisée dans l’analyse, la simulation et la modélisation d’images médicales. Ses intérêts de recherche actuels se concentrent sur l’analyse d’images grâce à des techniques d’apprentissage profond, avec des applications en imagerie cardiovasculaire, en imagerie du flux sanguin et en représentation de la population. Le professeur Bernard a également été rédacteur associé du livre IEEE Transactions on Image Processing. Découvrez plus d’informations liées à nos recherches sur le site LIVIA : https://liviamtl.ca/
par Clemens Pollak, associé de recherche, Deep-MI Lab, Centre allemand pour les maladies neurodégénératives Résumé : À l'ère de l'apprentissage profond, la précision et la vitesse de la segmentation cérébrale ne cessent d'augmenter. Dans le domaine de l’imagerie médicale, cependant, une précision moyenne élevée sur des ensembles de données prédéfinis n’est pas suffisante. Les études sur de grandes populations nécessitent des outils performants qui évitent ou réduisent les biais potentiels dans l'analyse en aval et peuvent être appliqués aux données de tous les participants, indifférentes aux grandes variances anatomiques ou pathologiques. Nous aborderons ce défi, d'abord en quantifiant les artefacts de mouvement, provoqués par le mouvement de la tête lors de l'acquisition IRM, afin de réduire les biais préjudiciables dans l'analyse des changements cérébraux ; et deuxièmement, en améliorant les performances de la segmentation cérébrale basée sur l’apprentissage profond en présence de lésions volumineuses, en générant des antécédents d’apparence saine. Bio : Pierre LE JEUNE est doctorant au laboratoire L2TI, Université Sorbonne Paris Nord tout en travaillant au sein de la société COSE. Il a obtenu le M.Sc. diplôme en modélisation mathématique et calcul de l'Université technique danoise (Copenhague) et M.Sc. Ingénieur de Centrale Nantes. Ses intérêts de recherche actuels incluent Few-Shot Learning, Computer Vision et Deep Learning Paper disponible sur : https://arxiv.org/abs/2306.11982. Découvrez plus d'informations relatives à nos recherches sur le site Web de LIVIA : https://liviamtl.ca /
par Mehraveh Javan Roshtkhari, étudiant au LIVIA Résumé : Les couches d'échantillonnage descendant, y compris le regroupement et les convolutions striées, sont des composants cruciaux de l'architecture du réseau neuronal convolutif qui déterminent à la fois la granularité/l'échelle de l'analyse des caractéristiques de l'image ainsi que la taille du champ récepteur d'un couche donnée. Pour bien comprendre ce problème, nous analysons les performances de modèles formés indépendamment avec chaque configuration de pooling et montrons que la position des couches de sous-échantillonnage peut fortement influencer les performances d'un réseau et que les configurations de sous-échantillonnage prédéfinies ne sont pas optimales. La recherche d'architecture réseau (NAS) peut être utilisée pour optimiser les configurations de sous-échantillonnage en tant qu'hyperparamètre. Cependant, nous constatons que les NAS one-shot courants basés sur un seul SuperNet ne fonctionnent pas pour résoudre ce problème. Enfin, nous proposons un mélange équilibré de SuperNets qui associe automatiquement les configurations de pooling à différents modèles de pondération et contribue à réduire le partage de poids et l'inter-influence des configurations de pooling sur les paramètres du SuperNet. Article disponible sur : https://arxiv.org /abs/2306.11982 Découvrez plus d'informations liées à nos recherches sur le site LIVIA : https://liviamtl.ca/
par Ségolène Martin, Ph.D. candidat, CentraleSupélec, Université Paris Saclay, INRIA, France Résumé : Les benchmarks standard à quelques coups sont souvent construits sur des hypothèses simplificatrices sur les ensembles de requêtes, ce qui peut ne pas toujours tenir en pratique. En particulier, pour chaque tâche au moment du test, les classes effectivement présentes dans l'ensemble requête non étiqueté sont connues a priori, et correspondent exactement à l'ensemble des classes représentées dans l'ensemble support étiqueté. Nous assouplissons ces hypothèses et étendons les benchmarks actuels, de sorte que les classes d'ensembles de requêtes d'une tâche donnée soient inconnues, mais appartiennent simplement à un ensemble beaucoup plus large de classes possibles. Notre cadre pourrait être considéré comme un exemple du problème difficile mais pratique de la classification K-way extrêmement déséquilibrée, K étant beaucoup plus grand que les valeurs généralement utilisées dans les benchmarks standard, et avec une supervision potentiellement non pertinente de la part de l'ensemble de support. Comme on pouvait s'y attendre, notre cadre entraîne des baisses de performances des méthodes de pointe. Motivés par ces observations, nous introduisons une formulation PrimAl Dual Minimum Description Length (PADDLE), qui équilibre la précision de l'ajustement des données et la complexité du modèle pour une tâche donnée à quelques coups, sous les contraintes de supervision de l'ensemble de support. Notre objectif de type MDL contraint favorise la concurrence entre un large éventail de classes possibles, en ne préservant que les classes efficaces qui conviennent mieux aux données d'une tâche à quelques coups. Il est exempt d'hyperparamètres et peut être appliqué en plus de n'importe quel entraînement de classe de base. De plus, nous dérivons un algorithme de descente de coordonnées de bloc rapide pour optimiser notre objectif, avec une garantie de convergence et une complexité de calcul linéaire à chaque itération. Des expériences complètes sur les ensembles de données standard à quelques coups et l'ensemble de données i-Nat plus réaliste et stimulant montrent des performances très compétitives de notre méthode, d'autant plus lorsque le nombre de classes possibles dans les tâches augmente. Bio : Ségolène Martin a obtenu son M.Sc. diplômée en mathématiques de l'Ecole Normale Supérieure Paris-Saclay, France, en 2020. Elle a également obtenu le titre d'enseignant (Agrégation) en 2019. Elle est actuellement doctorante. étudiant au laboratoire CVN de CentraleSupéelec, Université Paris Saclay, France. Ses recherches portent sur les méthodes d'optimisation pour le traitement d'images et l'apprentissage automatique. Article disponible sur : https://openreview.net/pdf?id=j9JL96S8Vl Code disponible sur : https://github.com/SegoleneMartin/PADDLE Retrouvez plus d'informations liées à nos recherches sur le site du LIVIA : https://liviamtl .Californie/
En savoir plus ... S'abonner