RNN

    RNN (Recurrent Neural Network)

    RNN (Recurrent Neural Network)

    해당 게시물은 "혁펜하임의 AI DEEP DIVE"를 수강하고 작성되었습니다.RNN은 연속적인 데이터를 처리하는데 효과적이다.  위 사진과 같이 우선 처음 입력 데이터를 가지고 노드의 값을 만든다.  두번째 입력 데이터로 노드를 만들 때 이전에 만들어진 노드의 값도 입력으로 넣는다.세번째 입력 데이터로 노드를 만들 때 이전에 만들어진 노드의 값도 입력으로 넣는다.반복...즉 이렇게 만들어진 노드들은 해당 time step에 해당하는 입력 데이터와, 그 전 입력 데이터와, 그 입력 데이터로 만들어진 노드가 들어있다. 하지만 마지막 출력값에 대해 처음 입력값이 미치는 영향은 어떨까? RNN은 activation으로 tanh를 사용하며 이를 미분했을때 최대값은 1이다. 그럼 backpropagation시 ta..

    CNN, RNN, GAN

    해당 게시물은 "혁펜하임의 AI DEEP DIVE"를 수강하고 작성되었습니다.https://welldonecode.tistory.com/117 Artificial Intelligence vs Machine Learning vs Deep Learning해당 게시물은 "혁펜하임의 AI DEEP DIVE"를 수강하고 작성되었습니다.  AI와 ML의 차이점은 "데이터를 기반으로 하는지"이다.ML과 DL의 차이는 "Deep Neural Network를 사용하는지"이다. 대표적인 예시는welldonecode.tistory.com이전 게시물에서 Deep Learning의 종류에는 CNN, DNN, GAN이 있다고 했다. 그 내용에 대해 더 자세히 살펴보자. 1.CNN (Convolution Neural Network..