SLG

Le 12 juin à 12h, nous aurons le plaisir d’accueillir une présentation du Dr Ismail Mohsine, spécialiste en hydroinformatique, actuellement en séjour au LIA. La présentation se tiendra en salle S6.Veuillez trouver ci-dessous le résumé du séminaire ainsi qu’une courte biographie du Dr Ismail Mohsine. ==================================== Bio Ismail Mohsine est docteur en sciences de la Terre, spécialiste en hydroinformatique. Formé au laboratoire LG2E (Faculté des Sciences de Rabat), en partenariat avec l’Université d’Avignon et l’IRD, il mène des recherches intégrant géosciences, intelligence artificielle et modélisation environnementale appliquées au domaine des ressources en eau. Résumé Dans un contexte de changement climatique et de pression croissante sur les ressources en eau, la prévision des niveaux piézométriques devient un enjeu majeur pour la gestion durable des aquifères. Cette présentation propose une approche de prédiction basée sur des réseaux de neurones récurrents (type LSTM), appliquée à des séries temporelles multivariées combinant données in situ, satellitaires (NDVI, température, précipitations, évapotranspiration …). Entraînés à l’échelle des unités hydrogéologiques, ces modèles tirent parti de la dynamique temporelle et des variations géographiques des données, tout en intégrant des mécanismes explicites de gestion des valeurs manquantes. Cette méthodologie hybride permet de reconstruire les lacunes de mesure et d’anticiper l’évolution des nappes dans des contextes complexes, contribuant à une Plus d'infos

La prochaine réunion de l’équipe SLG aura lieu le jeudi 27 Mars prochain, en salle S4 de 12h00 à 13h00. Title: Text-Speech Language Models with Improved Cross-Modal Transfer by Aligning Abstraction LevelsAbstract: Text-Speech Language Models (TSLMs), language models trained to jointly process and generate text and speech, aim to enable cross-modal knowledge transfer to overcome the scaling limitations of unimodal speech LMs. The predominant approach to TSLM training expands the vocabulary of a pre-trained text LM by appending new embeddings and linear projections for speech, followed by fine-tuning on speech data. We hypothesize that this method limits cross-modal transfer by neglecting feature compositionality, preventing text-learned functions from being fully leveraged at appropriate abstraction levels. To address this, we propose augmenting vocabulary expansion with modules that better align abstraction levels between speech and text across the model’s layers. Representation analyses and improved multimodal performance suggest that our method enhances cross-modal transfer, even surpassing or rivaling state-of-the-art TSLMs trained using orders of magnitude more compute.  

Titre : Exploring Short-Duration Spoken Language Recognition: Insights from CENATAV Date : 06/11/2024 11h00 Salle : S4 Résumé : This presentation will introduce the Advanced Technologies Application Center (CENATAV), outlining its core mission and research areas, with a focus on the work of its Voice Processing Group. We will discuss the challenges of conducting research with limited access to high-performance computing resources and large datasets, emphasizing our recent work on spoken language recognition in very short-duration audio signals. Langue : English