Word Embedding

Word Embedding

- 이미지 출처: https://towardsdatascience.com/deep-learning-4-embedding-layers-f9a02d55ac12

  • NLP(Natural Language Processing, 자연어 처리)에서 언어 모델링 기법 및 피처 합습 기법이 통칭
  • 단어나 구가 어취 크기에 비해 상대적으로 낮은 차원의 공간에 실수 벡터로 맵핑
  • Word2vec
    • 말뭉치(Corpus)로 부터 단어의 단어의 컨텍스트를 학습하여 고차원 벡터로 맵핑
  • GloVe(Global Vectors for Wrod Repreesentation)
    • co-occurence statistics에 기반함