8.0
시퀀스 데이터(문장=>글,음표=>음악, 붓의획=>그림 생성)를 생성하는 방법
LSTM모델, input : n개의 character, output: 하나의 character
이전 token을 input받아서 sequence의 다음 token을 예측하는 rnn모델…
(the cat is on the ma) %>% languageModel(from=latentSpace) = t
우선, output data 선택방법 결정
- 결정적 방법: 결과가 하나로 정해지는 것 (결과가 예측가능한 것)
Input Data에 대한 다음 단어 선택시, 가장 확률이 높은 단어를 선택하는 모델
결정적인 방법을 선택하게 된다면 항상 같은 문장을 생성하고 결과를 확인하는 Model이 Training될 것이다. - 확률적 방법: 결과가 확률에 따라 정해진다는 것
Input Data에 대한 다음 단어 선택 시, 확률에 따라 단어를 선택하는 모델.
확률적인 방법으로서 Model을 Training하게 된다면 주어진 문장 외에도 다양한 학습을 하고 결과를 도출할 것이라고 예상할 수 있다.
