Benoît Frenay
Défense de thèse de doctorat en informatique - Sacha Corbugy
Abstract
In recent decades, the volume of data generated worldwide has grown exponentially, significantly accelerating advancements in machine learning. This explosion of data has led to an increased need for effective data exploration techniques, giving rise to a specialized field known as dimensionality reduction. Dimensionality reduction methods are used to transform high-dimensional data into a low-dimensional space (typically 2D or 3D), so that it can be easily visualized and understood by humans. Algorithms such as Principal Component Analysis (PCA), Multidimensional Scaling (MDS), and t-distributed Stochastic Neighbor Embedding (t-SNE) have become essential tools for visualizing complex datasets. These techniques play a critical role in exploratory data analysis and in interpreting complex models like Convolutional Neural Networks (CNNs). Despite their widespread adoption, dimensionality reduction techniques, particularly non-linear ones, often lack interpretability. This opacity makes it difficult for users to understand the meaning of the visualizations or the rationale behind specific low-dimensional representations. In contrast, the field of supervised machine learning has seen significant progress in explainable AI (XAI), which aims to clarify model decisions, especially in high-stakes scenarios. While many post-hoc explanation tools have been developed to interpret the outputs of supervised models, there is still a notable gap in methods for explaining the results of dimensionality reduction techniques. This research investigates how post-hoc explanation techniques can be integrated into dimensionality reduction algorithms to improve user understanding of the resulting visualizations. Specifically, it explores how interpretability methods originally developed for supervised learning can be adapted to explain the behavior of non-linear dimensionality reduction algorithms. Additionally, this work examines whether the integration of post-hoc explanations can enhance the overall effectiveness of data exploration. As these tools are intended for end-users, we also design and evaluate an interactive system that incorporates explanatory mechanisms. We argue that combining interpretability with interactivity significantly improves users' understanding of embeddings produced by non-linear dimensionality reduction techniques. In this research, we propose enhancements to an existing post-hoc explanation method that adapts LIME for t-SNE. We introduce a globally-local framework for fast and scalable explanations of t-SNE embeddings. Furthermore, we present a completely new approach that adapts saliency map-based explanations to locally interpret non-linear dimensionality reduction results. Lastly, we introduce our interactive tool, Insight-SNE, which integrates our gradient-based explanation method and enables users to explore low-dimensional embeddings through direct interaction with the explanations.
Jury
Prof. Wim Vanhoof - University of Namur, BelgiumProf. Benoit Frénay - University of Namur, BelgiumProf. Bruno Dumas - University of Namur, BelgiumProf. John Lee - University of Louvain, BelgiumProf. Luis Galarraga - University of Rennes, France
Voir le contenu
Let’s Twist (Light) Again : l’UNamur et Stanford University courbent les faisceaux dans les cristaux photoniques
Une équipe internationale de chercheurs vient de publier dans la prestigieuse revue Light : Science & Applications (LSA) du groupe Nature. Les équipes des professeurs Michaël Lobet et Alexandre Mayer (Université de Namur) ont collaboré avec l’équipe du professeur Shanhui Fan, l’un des plus grands spécialistes en la matière, de la prestigieuse Université de Stanford, en Californie (USA). Le résultat : un article intitulé « Twist-Induced Beam Steering and Blazing Effects in Photonic Crystal Devices” ou l’étude de la déviation d’un faisceau par torsion dans les dispositifs à cristaux photoniques. Allez, on re-twiste à l’UNamur !
Voir le contenu
Des chercheurs de l’UNamur publiés dans Nature Physics
Le Professeur Timoteo Carletti de l’Université de Namur vient de publier dans la prestigieuse revue Nature Physics en collaboration avec la Professeure Ginestra Bianconi de l’Université Queen Mary de Londres et huit autres chercheurs internationaux. Cette étude révolutionnaire pourrait conduire au développement de nouveaux algorithmes d’IA, à de nouvelles façons d’étudier le fonctionnement du cerveau ou encore à des percées dans des disciplines telles que la physique, la science du climat, la finance et bien d’autres.
Voir le contenu
Portrait : Michel Ajzen, le chirurgien des pratiques managériales et organisationnelles
Comment concilier télétravail et travail en présentiel ? Comment encadrer ces pratiques professionnelles pour renforcer les dimensions innovantes et durables du travail hybride ? C’est à toutes ces questions que Michel Ajzen, spécialiste en management des organisations, s’intéresse dans le cadre de ses missions d’enseignement au sein du département des sciences de gestion de l’UNamur. Ses recherches se concentrent sur le travail hybride et l'innovation organisationnelle, avec une approche transdisciplinaire visant à réinventer les pratiques managériales pour relever les défis contemporains.
Voir le contenu
Une chercheuse de l’UNamur remporte le « Best Research Paper Award » à la conférence de l’American Marketing Association - SERVSIG
Floriane Goosse, doctorante à l’Université de Namur, au sein du centre de recherche NaDI-CeRCLe, a reçu le prestigieux prix « Best Research Paper Award » pour son papier de thèse mené en collaboration avec Wafa Hammedi, professeure au Département de gestion de l’UNamur, et Dominik Mahr, de l’Université de Maastricht.
Voir le contenu
Domaines de recherche
Notre société vit une révolution numérique qui a des conséquences sur son organisation, ses pratiques, et même ses valeurs. La plupart des secteurs de notre société sont concernés par cette révolution, que ce soit la santé, le gouvernement, et les services et l’économie collaborative. La résolution de ces défis nécessite une approche pluridisciplinaire permettant le dialogue entre experts technologiques, scientifiques, mais aussi sociétaux, éthiques, juridiques et économiques. Le centre de recherche NaDI a pour mission de fédérer tous les chercheurs de l'UNamur travaillant sur les défis suivants dans 7 domaines de recherche.
Voir le contenu
Centres de recherche
S'appuyant sur une tradition de recherche en informatique à l'Université de Namur, NaDI fédère six centres de recherche axés sur différents aspects de la société numérique.
Voir le contenu
Contact et organisation
Contacts
Co-President
Bruno Dumas
bruno.dumas@unamur.be
Co-President
Alexandre de Streel
alexandre.destreel@unamur.be
Organisation
Découvrir les membres
Voir le contenu
Big data et intelligence artificielle
NaDI offre une vaste expertise en intelligence artificielle : robotique bio-inspirée, apprentissage automatique robuste, interactif, interprétable et sûr, vérification automatique de programmes, programmation déclarative, intelligence économique, représentation des connaissances et tests automatiques de logiciels. Cela a déjà conduit à de nombreuses collaborations avec des experts médicaux, des industries et la société civile. Avec d'autres domaines d'expertise de NaDI, les experts en IA explorent également les implications éducatives, éthiques, sociétales et juridiques de l'IA.
Voir le contenu
Économie collaborative
L'économie collaborative fait référence aux places de marché qui donnent accès à des biens, des services ou des compétences par le biais d'échanges entre pairs. NaDI explore les impacts économiques, technologiques et sociétaux/environnementaux de ces échanges.
Voir le contenu
Co-innovation et co-création
L'innovation est devenue de plus en plus complexe. L'élaboration de solutions adaptées aux défis croissants de notre société nécessite d'explorer des sources de solutions hors du commun et de conjuguer les efforts de différents acteurs, y compris les citoyens ou les consommateurs. La co-innovation et la co-création analysent les méthodes, les outils et la gouvernance qui favorisent ces approches participatives et collaboratives.
Voir le contenu