Contribution d’informations syntaxiques aux capacités de généralisation compositionelle des modèles seq2seq convolutifs (Assessing the Contribution of Syntactic Information for Compositional Generalization of seq2seq Convolutional Networks)
Les modèles neuronaux de type seq2seq manifestent d’étonnantes capacités de prédiction quand ils sont entraînés sur des données de taille suffisante. Cependant, ils échouent à généraliser de manière satisfaisante quand la tâche implique d’apprendre et de réutiliser des règles systématiques de composition et non d’apprendre simplement par imitation des exemples d’entraînement. Le jeu de données SCAN, constitué d’un ensemble de commandes en langage naturel associées à des séquences d’action, a été spécifiquement conçu pour évaluer les capacités des réseaux de neurones à apprendre ce type de généralisation compositionnelle. Dans cet article, nous nous proposons d’étudier la contribution d’informations syntaxiques sur les capacités de généralisation compositionnelle des réseaux de neurones seq2seq convolutifs.
Code (0)
등록된 구현이 없습니다.
Similar Papers 제목 키워드 기반
Qu'apporte BERT \`a l'analyse syntaxique en constituants discontinus ? Une suite de tests pour \'evaluer les pr\'edictions de structures syntaxiques discontinues en anglais (What does BERT contribute to discontinuous constituency parsing ? A test suite to evaluate discontinuous constituency structure predictions in English)
Cet article propose d{'}analyser les apports d{'}un mod{\`e}le de langue pr{\'e}-entra{\^\i}n{\'e} de type BERT (bidirectional encoder representations from transformers) {\`a} l{'}analyse syntaxique en constituants disco…
Constituency ParsingConstruction de patrons lexico-syntaxiques d'extraction pour l'acquisition de connaissances \`a partir du web (Relation pattern extraction and information extraction from the web)
Cet article pr{\'e}sente une m{\'e}thode permettant de collecter sur le web des informations compl{\'e}mentaires {\`a} une information pr{\'e}d{\'e}finie, afin de remplir une base de connaissances. Notre m{\'e}thode util…
Introduction d'informations s\'emantiques dans un syst\`eme de reconnaissance de la parole (Despite spectacular advances in recent years, the Automatic Speech Recognition (ASR) systems still make mistakes, especially in noisy environments)
Malgr{\'e} les avanc{\'e}s spectaculaires ces derni{\`e}res ann{\'e}es, les syst{\`e}mes de Reconnaissance Automatique de Parole (RAP) commettent encore des erreurs, surtout dans des environnements bruit{\'e}s. Pour am{\…
Automatic Speech RecognitionAutomatic Speech Recognition (ASR)speech-recognitionSpeech RecognitionInvestigation par m\'ethodes d'apprentissage des sp\'ecificit\'es langagi\`eres propres aux personnes avec schizophr\'enie (Investigating Learning Methods Applied to Language Specificity of Persons with Schizophrenia)
Nous pr{\'e}sentons des exp{\'e}riences visant {\`a} identifier automatiquement des patients pr{\'e}sentant des sympt{\^o}mes de schizophr{\'e}nie dans des conversations contr{\^o}l{\'e}es entre patients et psychoth{\'e}…
SpecificityProjection Interlingue d'\'Etiquettes pour l'Annotation S\'emantique Non Supervis\'ee (Cross-lingual Annotation Projection for Unsupervised Semantic Tagging)
Nos travaux portent sur la construction rapide d{'}outils d{'}analyse linguistique pour des langues peu dot{\'e}es en ressources. Dans une pr{\'e}c{\'e}dente contribution, nous avons propos{\'e} une m{\'e}thode pour la c…
es-en