Apprentissage discriminant des mod\`eles continus de traduction
Alors que les r{\'e}seaux neuronaux occupent une place de plus en plus importante dans le traitement automatique des langues, les m{\'e}thodes d{'}apprentissage actuelles utilisent pour la plupart des crit{\e}res qui sont d{\'e}corr{\'e}l{\'e}s de l{'}application. Cet article propose un nouveau cadre d{'}apprentissage discriminant pour l{'}estimation des mod{\e}les continus de traduction. Ce cadre s{'}appuie sur la d{\'e}finition d{'}un crit{\e}re d{'}optimisation permettant de prendre en compte d{'}une part la m{\'e}trique utilis{\'e}e pour l{'}{\'e}valuation de la traduction et d{'}autre part l{'}int{\'e}gration de ces mod{\e}les au sein des syst{\e}mes de traduction automatique. De plus, cette m{\'e}thode d{'}apprentissage est compar{\'e}e aux crit{\e}res existants d{'}estimation que sont le maximum de vraisemblance et l{'}estimation contrastive bruit{\'e}e. Les exp{\'e}riences men{\'e}es sur la t{\^a}ches de traduction des s{\'e}minaires TED Talks de l{'}anglais vers le fran{\c{c}}ais montrent la pertinence d{'}un cadre discriminant d{'}apprentissage, dont les performances restent toutefois tr{\`e}s d{\'e}pendantes du choix d{'}une strat{\'e}gie d{'}initialisation idoine. Nous montrons qu{'}avec une initialisation judicieuse des gains significatifs en termes de scores BLEU peuvent {\^e}tre obtenus.
Code (0)
등록된 구현이 없습니다.
Similar Papers 제목 키워드 기반
A fully discriminative training framework for Statistical Machine Translation (Un cadre d'apprentissage int\'egralement discriminant pour la traduction statistique) [in French]
Adaptation incr\'ementale de mod\`eles de traduction neuronaux (Incremental adaptation of neural machine translation models)
L{'}adaptation au domaine est un verrou scientifique en traduction automatique. Il englobe g{\'e}n{\'e}ralement l{'}adaptation de la terminologie et du style, en particulier pour la post-{\'e}dition humaine dans le cadre…
Machine TranslationTranslation\'Etude de l'apprentissage par transfert de syst\`emes de traduction automatique neuronaux (Study on transfer learning in neural machine translation )
L{'}apprentissage par transfert est une solution au probl{\`e}me de l{'}apprentissage de syst{\`e}mes de traduction automatique neuronaux pour des paires de langues peu dot{\'e}es. Dans cet article, nous proposons une an…
Machine TranslationTransfer LearningFlux d’informations dans les systèmes encodeur-décodeur. Application à l’explication des biais de genre dans les systèmes de traduction automatique. (Information flow in encoder-decoder systems applied to the explanation of gender bias in machine translation systems)
Ce travail présente deux séries d’expériences visant à identifier les flux d’information dans les systèmes de traduction neuronaux. La première série s’appuie sur une comparaison des décisions d’un modèle de langue et d’…
Machine Translation\'Evolution phonologique des langues et r\'eseaux de neurones : travaux pr\'eliminaires (Sound change and neural networks: preliminary experiments )
La pr{\'e}diction de cognats est une t{\^a}che clef de la linguistique historique et pr{\'e}sente de nombreuses similitudes avec les t{\^a}ches de traduction automatique. Cependant, alors que cette seconde discipline a v…
es-en