언어모델의 원리와 만들기

언어모델의 원리와 만들기

언어모델 언어 모델(Language model)은 주어진 단어들의 시퀀스에 대해 임베딩 표현(Embedding representation) 또는 벡터(Embedding vector)를 만들어 줍니다. 언어 모델을 통해 만든 임베딩 표현으로 주제 찾기, 감정 분류, 개체명 인식과 같은 분류 문제나 기계 번역, 요약 등 텍스트 생성 문제를 풀 수 있습니다. 현재 언어 모델 중 가장 유명한 것은 GPT입니다. GPT는 Generative Pretrained Transformer의 약자로, 딥러닝 […]
Source: 언어모델의 원리와 만들기