인공지능 개발일지

안녕하세요. 이번 포스팅에서는 대표적인 Sequence data 처리 모델인 RNN과 Gate RNN(LSTM, GRU), Seq2Seq에 대해 알아보겠습니다. (Gate RNN은 RNN에 게이트(입력, 망각, 출력)를 추가한 것이고 대표적으로는 LSTM, GRU가 있다) 우선 각 모델의 RNN(Recurrent Neural Network)과 LSTM(Long Short-Term Memory)은 순환 신경망의 두 가지 주요 형태로, 시퀀스 데이터를 처리하는 데 널리 사용됩니다. 각각의 특징과 차이점을 살펴보겠습니다. RNN: 매 시점마다 이전 단계의 hidden state를 사용하여 다음 hidden state를 생성. Gate RNN (1997): 시간이 지날수록 이전 정보를 잃어버리는 RNN의 장기 ..