論文紹介

毎週担当を決め、サーベイ報告、論文紹介などを行ないます。

基本的に ACL, NAACL, EMNLP, COLING, IJCNLP, LREC などの自然言語処理に関する国際会議(自然言語処理の国際会議のランキング)、あるいは NIPS, ICML, UAI, ECML/PKDD などの機械学習に関する国際会議(機械学習の国際会議のランキング)、あるいは KDD, ICDM, CIKM, SDM などのデータマイニングに関する国際会議(データマイニングの国際会議のランキング)、あるいは ICASSP, Interspeech などの音声言語処理に関する国際会議、あるいは SIGIR, WWW, WSDM などの情報検索・ウェブマイニングに関する国際会議(情報検索の国際会議のランキング)、あるいは AAAI, IJCAI などの人工知能に関する国際会議(人工知能の国際会議のランキング)の論文を選び、精読していきます。論文誌(ジャーナル)はボリュームがあって時間がかかるので、どうしても読みたい理由がなければ避けてください(定期的で時間も決まっている論文紹介の枠組みではなく、単発の読み会を開催してください)。また、ショートペーパーはその論文の理解に必要な情報がその論文だけで理解できないことが多いので、こちらもどうしても読みたい理由(ベストペーパーに選ばれていて内容がすばらしいので、必要な事項は先行研究の論文も合わせて解説するなど)がなければ避けてください。

(2014年度後期から)「クリティーク」という、発表者の発表に対して批判的にコメントする人を事前に指名することとします。「クリティーク」の人も事前に論文を読んで準備する必要があるため、原則発表の1週間前まで(遅くとも3日前まで)に、紹介する論文(と入手方法)を発表者の人はアナウンスしてください。

(2016年度から)古典の論文を読む会と最先端の論文を読む会を分けました。古典の論文とは10年以上の論文で、最先端の論文とはそれ以降の論文です。古典の論文のみクリティークを設けます。

(2017年度から)最先端の論文を読む会はスライドを用いて複数人がそれぞれ30分程度で内容を紹介する「読み会」形式で統一することにしました。

(2018年度から)古典の論文を読む会は前期のみ行うことにし、新入生も前期の段階で読んでもらうことにしました。古典の定義を見直し、5年以上前の論文は古典とみなしてよいことにしました。

リソース

スケジュール

国際会議読み会(通年)

論文読み会(後期)

日時担当
論文
10/09A Visual Attention Grounding Neural Model for Multimodal Machine Translation
Mingyang Zhou, Runxiang Cheng, Yong Jae Lee, Zhou Yu (EMNLP 2018)
10/09
中澤ALBERT: A Lite BERT for Self-supervised Learning of Language Representations [slide]
Zhenzhong Lan, Mingda Chen, Sebastian Goodman, Kevin Gimpel, Piyush Sharma, Radu Soricut (arXiv 2019)
10/16
Glyce: Glyph-vectors for Chinese Character Representations
Yuxian Meng, Wei Wu, Fei Wang, Xiaoya Li, Ping Nie, Fan Yin, Muyu Li, Qinghong Han, Xiaofei Sun and Jiwei Li (NeurIPS 2019)
10/16
勝又How Contextual are Contextualized Word Representations? [slide]
Kawin Ethayarajh (EMNLP 2019) (リンク, 紹介は arXiv 版)
(arXiv: How Contextual are Contextualized Word Representations? Comparing the Geometry of BERT, ELMo, and GPT-2 Embeddings.)
11/20

 
11/20
白井 
11/27
悠進
Improving Grammatical Error Correction with Machine Translation Pairs
Wangchunshu Zhou, Tao Ge, Chang Mu, Ke Xu, Furu Wei, Ming Zhou
11/27
平澤
 
12/04
平尾 
12/04
甫立
 
12/11
山下 
12/11
嶋中
 
12/18
吉村
 
12/18
黒澤
 
01/08
新井
 
01/08
本間
Levenshtein Transformer
Jiatao Gu, Changhan Wang, Jake Zhao (arXiv 2019)
01/15
白石 
01/15
Aizhan
 
01/22
安道
 
01/22
金子
 
01/29
Oryza
 

最先端NLP勉強会(前期)

日時
担当 論文
5/09
白井 Improving Grammatical Error Correction via Pre-Training aCopy-Augmented Architecture with Unlabeled Data
Wei Zhao, Liang Wang, Kewei Shen, Ruoyu Jia, Jingming Liu (NAACL 2019)
5/09 勝又 Corpora Generation for Grammatical Error Correction [slide]
Jared Lichtarge, Chris Alberti, Shankar Kumar, Noam Shazeer, Niki Parmar, Simon Tong (NAACL 2019) (リンク, 紹介は arXiv 版)
5/16 平澤 Probing the Need for Visual Context in Multimodal Machine Translation [slide]
Ozan Caglayan, Pranava Madhyastha, Lucia Specia, Loïc Barrault (NAACL 2019, リンクはArxiv)
5/16 Inherent Biases in Reference-based Evaluation for Grammatical Error Correction
Leshem Choshen and Omri Abend, (ACL 2018)
5/23 中澤 BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding [slide]
Jacob Devlin, Ming-Wei Chang, Kenton Lee, Kristina Toutanova, (arXiv 2018)
5/23 Longtu Extract and Edit: An Alternative to Back-Translation forUnsupervised Neural Machine Translation [slides]
Jiawei Wu and Xin Wang and William Yang Wang (NAACL 2019)
5/30
Straight to the Tree: Constituency Parsing with Neural Syntactic Distance [ slide ]
Yikang Shen, Zhouhan Lin, Athul Paul Jacob, Alessandro Sordoni, Aaron Courville, Yoshua Bengio
5/30
安道 Citation Needed: A Taxonomy and Algorithmic Assessment of Wikipedia’s Verifiability[slide]
Miriam Redi, Besnik Fetahu, Jonathan Morgan, Dario Taraborelli (WWW 2019)
6/06
金子 Misspelling Oblivious Word Embeddings
Aleksandra Piktus, Necati Bora Edizel, Piotr Bojanowski, Edouard Grave, Rui Ferreira, Fabrizio Silvestri (NAACL 2019)
6/06 アイジャン STACL: Simultaneous Translation with Integrated Anticipation and Controllable Latency
Mingbo Ma, Liang Huang, Hao Xiong, Kaibo Liu, Chuanqiang Zhang, Zhongjun He, Hairong Liu, Xing Li, Haifeng Wang (ACL2019)
6/13 新井 A Simple and Robust Approach to Detecting Subject-Verb Agreement Errors
Simon Flats, Ophhelie Lacroix, Marek Rei, Helen Yannakoudakis, Anders Sogaard (NAACL 2019)
6/13 本間 Star-Transformer [slides]
Qipeng Guo, Xipeng Qiu, Pengfei Liu, Yunfan Shao, Xiangyang Xue, Zheng Zhang (NAACL 2019)
6/20
吉村 Reliability and Learnability of Human Bandit Feedback for Sequence-to-Sequence Reinforcement Learning [slide]
Julia Kreutzer and Joshua Uyheng and Stefan Riezler (NAACL2018)
6/20 黒澤 Syntax-Enhanced Neural Machine Translation with Syntax-Aware Word Representations
Meishan Zhang, Zhenghua Li, Guohong Fu, Min Zhang (NAACL2019)
6/27
嶋中 Cross-lingual Language Model Pretraining
Guillaume Lample, Alexis Conneau (arXiv 2019)
6/27
甫立 Neural Machine Translation of Text from Non-Native Speakers
Antonios Anastasopoulos, Alison Lui, Toan Q. Nguyen, David Chiang (NAACL 2019)

古典NLP勉強会(前期)

日時 担当 クリティーク 論文
5/13
10:30-
本間 Longtu
Extraction of Multi-word Expressions from Small Parallel Corpora
Yulia Tsvetkov, Shuly Wintner. COLING 2010
5/20
10:30-
吉村 黒澤
Regression for Sentence-Level MT Evaluation with Pseudo References
Joshua S. Albrecht and Rebecca Hwa. ACL2007
5/27
10:30-
甫立 勝又A classifier-based approach to preposition and determiner error correction in L2 English
Rachele De Felice and Stephen G. Pulman. COLING 2008
6/03
10:30-
Chinese and Japanese Word Segmentation Using Word-Level and Character-Level Information Tetsuji Nakagawa. COLING 2004
6/10
10:30-
平澤 アイジャン Re-evaluating the Role of BLEU in Machine Translation Research
Chris Callison-Burch, Miles Osborne, and Philipp Koehn. EACL 2006
6/17
10:30-
中澤 嶋中 Recursive Deep Models for Semantic Compositionality Over a Sentiment Treebank
Richard Socher, Alex Perelygin, Jean Y. Wu, Jason Chuang, Christopher D. Manning, Andrew Y. Ng and Christopher Potts. EMNLP 2013
6/24
10:30-
合田 安道 Generic Text Summarization Using Relevance Measure andLatent Semantic Analysis
Yihong Gong & Xin Liu. ACM SIGIR 2001
7/01
10:30-
山下 金子Building a Large Annotated Corpus of Learner English : The NUS Corpus of Learner English Daniel Dahlmeier, Hwee Tou Ng, and Siew Mei Wu. BEA 2013
7/08
10:30-
平尾 新井 Modeling Thesis Clarity in Student Essays
Isaac Persing and Vincent Ng ACL 2013
7/15


海の日なのでおやすみ
7/22 10:30- 高橋 白井Generating Confusion Sets for Context-Sensitive Error Correction
Alla Rozovskaya and Dan Roth. ACL 2010

メンバー

古典

読む人(新入生+M1)

  • 平沢
  • 甫立
  • 本間
  • 吉村
  • 合田
  • 高橋
  • 中澤
  • 平尾
  • 山下

クリティーク(M2/D)

  • アイジャン
  • Longtu 
  • 金子 
  • 安道
  • 勝又
  • 黒澤
  • 嶋中
  • 白井
  • 新井
  • (趙)

最先端

サブページ (27): すべて表示
Comments