Skip-Thought Vector의 PyTorch 구현

“Skip-Thought Vector”또는 “Skip-Thoughts”는 라벨 데이터 또는 비지도학습으로 자연어 문장의 고정 길이 표현을 학습하는 간단한 신경망 모델에 부여된 이름입니다. Skip-Thoughts가 사용하는 유일한 지도/학습시그널은 자연어 코퍼스에서의 문장의 순서입니다.

고정된 표현을 사용하면 문장을 equivalent vector로 쉽게 대체할 수 있습니다. 이것은 자연어에 대한 이해, 행동 또는 반응 과정을 수학적으로 직접적으로 만듭니다. 이러한 작업의 몇가지 예는 다음과 같습니다.

-두 문장의 의미가 의미상으로 유사한지를 알려주는 작업.
-주어진 문장이 양성인지 음수인지를 분류하는 임무.

원문
http://sanyam5.github.io/my-thoughts-on-skip-thoughts/

깃허브
https://github.com/sanyam5/skip-thoughts

Tags:

Skip-Thought Vector

Skip-Thoughts

PyTorch

워드임베딩