paper-with-me

Papers

Qu'apporte BERT \`a l'analyse syntaxique en constituants discontinus ? Une suite de tests pour \'evaluer les pr\'edictions de structures syntaxiques discontinues en anglais (What does BERT contribute to discontinuous constituency parsing ? A test suite to evaluate discontinuous constituency structure predictions in English)

2020-06-01 · JEPTALNRECITAL 2020 6 · Maximin Coavoux

Cet article propose d{'}analyser les apports d{'}un mod{\e}le de langue pr{\'e}-entra{\^\i}n{\'e} de type BERT (bidirectional encoder representations from transformers) {\a} l{'}analyse syntaxique en constituants discontinus en anglais (PTB, Penn Treebank). Pour cela, nous r{\'e}alisons une comparaison des erreurs d{'}un analyseur syntaxique dans deux configurations (i) avec un acc{\e}s {\a} BERT affin{\'e} lors de l{'}apprentissage (ii) sans acc{\e}s {\a} BERT (mod{\e}le n{'}utilisant que les donn{\'e}es d{'}entra{\^\i}nement). Cette comparaison s{'}appuie sur la construction d{'}une suite de tests que nous rendons publique. Nous annotons les phrases de la section de validation du Penn Treebank avec des informations sur les ph{\'e}nom{\e}nes syntaxiques {\a} l{'}origine des discontinuit{\'e}s. Ces annotations nous permettent de r{\'e}aliser une {\'e}valuation fine des capacit{\'e}s syntaxiques de l{'}analyseur pour chaque ph{\'e}nom{\e}ne cible. Nous montrons que malgr{\'e} l{'}apport de BERT {\a} la qualit{\'e} des analyses (jusqu{'}{\a} 95 en F1 ), certains ph{\'e}nom{\e}nes complexes ne sont toujours pas analys{\'e}s de mani{\e}re satisfaisante.

📄 PDF Abstract BibTeX

Code (0)

등록된 구현이 없습니다.

Tasks

Constituency Parsing

Methods 이 논문이 사용한 방법론

Linear Layer A Linear Layer is a projection $\mathbf{XW + b}$.
Refunds@Expedia|||How do I get a full refund from Expedia? “How do I get a full refund from Expedia? How do I get a full refund from Expedia? – Call ☎️ +1-(888) 829 (0881) or +1-805-330-4056 or +1-805-330-4056 for Quick Help &…
Softmax The Softmax output function transforms a previous layer's output into a vector of probabilities. It is commonly used for multiclass classification. Given an input vector $x$…
Layer Normalization Unlike batch normalization, Layer Normalization directly estimates the normalization statistics from the summed inputs…
Attention 설명 없음
Dense Connections Dense Connections, or Fully Connected Connections, are a type of layer in a deep neural network that use a linear operation where every input is connected to every output…
Weight Decay 설명 없음
Linear Warmup With Linear Decay Linear Warmup With Linear Decay is a learning rate schedule in which we increase the learning rate linearly for $n$ updates and then linearly decay afterwards.

Similar Papers 제목 키워드 기반

Repr\'esentation et analyse automatique des discontinuit\'es syntaxiques dans les corpus arbor\'es en constituants du fran\ccais (Representation and parsing of syntactic discontinuities in French constituent treebanks)

2017-06-01 · JEPTALNRECITAL 2017 6 · Maximin Coavoux, Beno{\^\i}t Crabb{\'e}

Nous pr{\'e}sentons de nouvelles instanciations de trois corpus arbor{\'e}s en constituants du fran{\c{c}}ais, o{\`u} certains ph{\'e}nom{\`e}nes syntaxiques {\`a} l{'}origine de d{\'e}pendances {\`a} longue distance son…

es-en

Une note sur l'analyse du constituant pour le fran\ccais (A Note on constituent parsing for French)

2018-05-01 · JEPTALNRECITAL 2018 5 · Jungyeul Park

Cet article traite des analyses d{'}erreurs quantitatives et qualitatives sur les r{\'e}sultats de l{'}analyse syntaxique des constituants pour le fran{\c{c}}ais. Pour cela, nous {\'e}tendons l{'}approche de Kummerfeld e…

La r\'esolution d'anaphores au-del\`a de la fronti\`ere de la phrase (The Anaphora Resolution Beyond Sentence Boundary)

2020-06-01 · JEPTALNRECITAL 2020 6 · Luka Nerima, Eric Wehrli

Cette d{\'e}monstration pr{\'e}sente une extension de nos outils d{'}analyse syntaxique et d{'}{\'e}tiquetage morphosyntaxique qui prend en compte la r{\'e}solution d{'}anaphores pronominales non seulement {\`a} l{'}int{…

Sentence

Comparaison d'architectures neuronales pour l'analyse syntaxique en constituants

2015-06-01 · JEPTALNRECITAL 2015 6 · Maximin Coavoux, Beno{\^\i}t Crabb{\'e}

L{'}article traite de l{'}analyse syntaxique lexicalis{\'e}e pour les grammaires de constituants. On se place dans le cadre de l{'}analyse par transitions. Les mod{\`e}les statistiques g{\'e}n{\'e}ralement utilis{\'e}s p…

Compilation de grammaire de propri\'et\'es pour l'analyse syntaxique par optimisation de contraintes (Compilation of a Property Grammar for Syntactic Parsing through Constraint Optimisation)

2016-07-01 · JEPTALNRECITAL 2016 7 · Jean-Philippe Prost, R{\'e}mi Coletta, Christophe Lecoutre

Cet article pr{\'e}sente un processus de compilation d{'}une grammaire de propri{\'e}t{\'e}s en une contrainte en extension. Le processus s{'}ins{\`e}re dans le cadre d{'}un analyseur syntaxique robuste par r{\'e}solutio…