Transformer-based Question Answering Model for the Biomedical Domain

Abstract

Le Question Answering (QA) est un sujet trés ciblé dans le domaine du Traitement Automatique du Langage Naturel (TALN). Les progrès récents dans les modèles de réseaux neuronaux et la disponibilité de vastes ensembles de données (dataset), tels que SQuAD, ont joué un rôle significatif dans l’amélioration des performances dans des domaines ouverts. Cepandant, il est essentiel d’optimiser davantage la mise en oeuvre de ces systèmes dans des domaines plus spécifiques et restreints, notamment dans le domaine biomédical, afin d’assister de manière précise les professionnels de la santé dans la fourniture de réponses exactes aux questions relatives à la médecine et aux soins de santé, y compris des sujets spécifiques tels que la COVID-19. Avantageusement, l’émergence de modèles récents tels que les transformers a ouvert de nouvelles perspectives prometteuses et a introduit des techniques modernes pour développer des systèmes d’une précision accrue. Objectifs Dans cette étude, notre objectif consiste à exploiter les modèles de transformers et l’apprentissage par transfert pour entraîner de manière efficace des modèles dans le domaine biomédical. En utilisant un modèle pré-entraîné pour les tâches de question-réponse et en l’ajustant davantage pour des domaines spécifiques, nous améliorons les performances du système dans le domaine biomédical. Notre objectif ultime est de développer un système de Question Answering spécifiquement adapté pour répondre aux interrogations relatives à la COVID-19. Résultats Nous avons procédé à l’entraînement de deux modèles, à savoir BERT et RoBERTa, en utilisant le dataset COVID-QA, et nous avons obtenu des résultats remarquable en matière de réponse aux questions relatives à la COVID-19. Notre modèle RoBERTa a obtenu un score d’Exact Match (EM) de 0,38 et un score F1 de 0,64 sur le dataset COVIDQA, ce qui témoigne d’une performance réussie dans la réponse aux questions spécifiques à la COVID-19.