paper-with-me

홈 › Papers

Représentations lexicales pour la détection non supervisée d'événements dans un flux de tweets : étude sur des corpus français et anglais

2020-01-13 · Béatrice Mazoyer, Nicolas Hervé, Céline Hudelot, Julia Cage

In this work, we evaluate the performance of recent text embeddings for the automatic detection of events in a stream of tweets. We model this task as a dynamic clustering problem.Our experiments are conducted on a publicly available corpus of tweets in English and on a similar dataset in French annotated by our team. We show that recent techniques based on deep neural networks (ELMo, Universal Sentence Encoder, BERT, SBERT), although promising on many applications, are not very suitable for this task. We also experiment with different types of fine-tuning to improve these results on French data. Finally, we propose a detailed analysis of the results obtained, showing the superiority of tf-idf approaches for this task.

📄 PDF Abstract BibTeX arXiv:2001.04139

Code (1)

ina-foss/twembeddings 공식 구현 tf

Tasks

ClusteringSentence

Methods 이 논문이 사용한 방법론

Linear Layer A Linear Layer is a projection $\mathbf{XW + b}$.
Weight Decay 설명 없음
Residual Connection 설명 없음
Adam 설명 없음
Layer Normalization Unlike batch normalization, Layer Normalization directly estimates the normalization statistics from the summed inputs…
Softmax The Softmax output function transforms a previous layer's output into a vector of probabilities. It is commonly used for multiclass classification. Given an input vector $x$…
Attention 설명 없음
Dropout Dropout is a regularization technique for neural networks that drops a unit (along with connections) at training time with a specified probability $p$ (a common value is…

Similar Papers 제목 키워드 기반

Analyse en dépendances du français avec des plongements contextualisés (French dependency parsing with contextualized embeddings)

2021-06-01 · JEP/TALN/RECITAL 2021 6 · Loïc Grobol, Benoit Crabbé

Cet article présente un analyseur syntaxique en dépendances pour le français qui se compare favorablement à l’état de l’art sur la plupart des corpus de référence. L’analyseur s’appuie sur de riches représentations lexic…

Dependency Parsing

ACCOLÉ : Annotation Collaborative d’erreurs de traduction pour COrpus aLignÉs, multi-cibles, et Annotation d’Expressions Poly-lexicales (ACCOLÉ: A Collaborative Platform of Error Annotation for Aligned)

2021-06-01 · JEP/TALN/RECITAL 2021 6 · Emmanuelle Esperança-Rodier, Francis Brunet-Manquat

Cette démonstration présente les avancées d’ACCOLÉ (Annotation Collaborative d’erreurs de traduction pour COrpus aLignÉs), qui en plus de proposer une gestion simplifiée des corpus et des typologies d’erreurs, l’annotati…

DisMo : un annotateur multi-niveaux pour les corpus oraux

2015-06-01 · JEPTALNRECITAL 2015 6 · George Christodoulides, Giulia Barreca, Mathieu Avanzi

Dans cette d{\'e}monstration, nous pr{\'e}sentons l{'}annotateur multi-niveaux DisMo, un outil con{\c{c}}u pour faire face aux sp{\'e}cificit{\'e}s des corpus oraux. Il fournit une annotation morphosyntaxique, une lemmat…

Repr\'esentation vectorielle de paires de verbes pour la pr\'ediction de relations lexicales (Verb-pairs embeddings for discourse relation prediction)

2020-06-01 · JEPTALNRECITAL 2020 6 · Etienne Rigaud

Dans cet article, nous proposons un mod{\`e}le de repr{\'e}sentations vectorielles de paire de mots, obtenues {\`a} partir d{'}une adaptation du mod{\`e}le Skip-gram de Word2vec. Ce mod{\`e}le est utilis{\'e} pour g{\'e}…

Relation Prediction

Plongements Interprétables pour la Détection de Biais Cachés (Interpretable Embeddings for Hidden Biases Detection)

2021-06-01 · JEP/TALN/RECITAL 2021 6 · Tom Bourgeade, Philippe Muller, Tim Van De Cruys

De nombreuses tâches sémantiques en TAL font usage de données collectées de manière semiautomatique, ce qui est souvent source d’artefacts indésirables qui peuvent affecter négativement les modèles entraînés sur celles-c…