RNN1 언어모델 LM의 역사 정리 안녕하세요 import ysy입니다.제가 너무 오래 모델을 안만졌더니 서로 개념이 헷갈리길래 이번에 한 번에 쫙 정리해봤습니다.도움이 됐으면 좋겠어요.언어모델(Language Model, LM)을 공부하는 이유LM은 단어의 나열 확률을 계산해주는 모델입니다. 단어 나열 확률을 바탕으로 가장 높은 확률을 가지는 최적의 단어를 선택(생성)합니다.이 단어들은 모여 문장이, 문장이 모여 문단이 됩니다. GAN(Generative Adversarial Neural Network)이 이미지 데이터 뿐만 아니라 여러 데이터에 적용이 되듯이시퀀스 예측 모델(LM)을 통해 여러 task를 처리할 수 있습니다. 1. Word2Vec (2013)one-hot encoding, uni-gram, N-gram 등 확률분포에서 .. 2024. 11. 10. 이전 1 다음 반응형
