Natural Language Processing : ACL

Convolutional Neural Networks for Sentence Classification

Submit: Yoon Kim, ACL (2014)

Paper : http://www.people.fas.harvard.edu/~yoonkim/data/sent-cnn.pdf

• 기존에 학습된 word vectors와 CNN을 이용하여 문장 단위 분류를 수행한다
• model : n(문장 길이)*k(w2v 차원)의 sentences에 conv layer, max-over-time pooling, fc with dropout, softmax를 거친다. (2011 Collobert의 CNN model)
• training을 통해서도 그대로인 word vector 채널, backpropagation을 통해 파인튜닝한 non-static 채널과 함께 비교한다
• 1개 layer로 된 CNN이어도 잘 pretrained된 word vector이 있으면 우수한 성능을 보였다.