RNN
2020. 3. 31. 14:57
RNN (Recurrent Neural Networks) 히든 노드가 방향을 가진 엣지로 연결돼 순환구조를 이루는(directed cycle) 인공신경망의 한 종류 음성, 문자 등 순차적으로 등장하는 데이터 처리에 적합한 모델 시퀀스 길이에 관계없이 인풋과 아웃풋을 받아들일 수 있는 네트워크 구조이기 때문에 필요에 따라 다양하고 유연하게 구조를 만들 수 있음 구조 내 weight 값이 항상 같음 (같은 weight를 share함으로써 문장의 길이가 길어도 네트워크 사이즈가 달라지지 않음) 기본구조 현재 상태의 output yt는 input xt와 hidden state인 ht를 전달받아 갱신 state의 활성함수(activation function)은 비선형 함수인 하이퍼볼릭탄젠트(tanh) Langua..
