순환신경망 RNN (Recurrent Neural Network)

순환신경망이란?

: 기존에 DNN, CNN과 다르게 순차적인 데이터(Sequential Data)를 사용 했을때 과거의 데이터를 사용하여 데이터를 출력하고 싶을때 사용

 

- 응용 사례

•심전도 신호를 분석하여 심장 이상 유무 판정

•주식 시세 분석하여 사고 파는 시점 결정

•음성 인식을 통한 지능적인 인터페이스 구축

•기계 번역기 또는 자동 응답 장치 제작

•유전자 열 분석을 통한 치료 계획 수립 등

 

 

순차데이터(Sequential Data)

: 순서가 의미가 있고, 순서가 달라질 경우 의미가 손상되는 데이터

           ->시간적 의미가 있는 경우 Temporal Sequence

                      -> 일정한 시간차이면 Time Series

Ex) 언어, 센서 데이터, 주가 변동, 지진파, DNA 염기서열 등등

 

 

 

 

RNN은 연속된 데이터를 사용하기 위해서 Memory System을 사용해 기억을 할 공간을 만든다.

 

 

- RNN 모델 

RNN 모델의 기본 구조 / x: 입력값 y: 출력값 W: 가중치

 

흔히 말하는 RNN 구조

 

구분하기 쉽게 보는 RNN구조 

 

h: 출력값 및 과거데이터 , x: 입력값, y: 출력값

과거 데이터 h 10x1이 히든 레이어 가중치 W 10x10 를 만나  10x1데이터 Wht-1생성

입력 값 x 5x1이 레이어가중치 U 10x5를 만나 10x1 데이터 Uxt생성

 

Wht-1 + Uxt 더한 값을 tanh 에 집어넣는다

이후 나온 값이 ht값