Deep Learning/모두를 위한 딥러닝 1 (3) 썸네일형 리스트형 RNN, Recurrent Neural Network Recurrent Neural Network(RNN)은 자연어 문자오가 같이 단어의 순서에 따라 의미가 달라지는 순차 데이터(Sequential Data)를 다룰 때 주로 사용되는 신경망입니다. 따라서 RNN은 단어의 어순에 따라 문장의 의미가 달라지고 앞에 어떤 단어가 쓰였는지 기억해야 뒤에 오는 단어를 예측하는 등의 문제를 풀 때 주로 활용됩니다. RNN은 Hidden Layer의 노드에서 Activation Function을 거쳐 나온 결과값을 Output Layer로 보내면서 다시 다음 Hidden Layer 노드 계산의 입력값으로 보내는 신경망입니다. 이처럼, 결과값이 다음 Hidden Layer 노드의 입력값 계산에 보내지는 것을 '순환한다'라고 표현하고, 이러한 신경망을 순환 신경망이라고 부.. CNN, Convolutional Neural Network Fully Connected Layer 만으로 구성된 인공 신경망의 입력 데이터는 1차원 형태로 한정됩니다. 한 장의 컬러사진은 3차원 데이터 입니다. 배치 모드에 사용되는 여러장의 사진은 4차원 데이터입니다. 사진 데이터로 FC(Fully Connected) 신경망을 학습시켜야 할 경우에, 3차원 사진 데이터를 1차원으로 평면화시켜야합니다. 사진 데이터를 평면화 시키는 과정에서 공간 정보가 손실될 수밖에 없습니다. 결과적으로 이미지 공간 정보 유실로 인한 정보 부족으로 인공 신경망이 특징을 추출 및 학습이 비효율적이고 정확도를 높이는데 한계가 있습니다. 이미지의 공간 정보를 유지한 상태로 학습이 가능한 모델이 CNN입니다. CNN은 기존 FNN와 비교하여 다음과 같은 차이점이 있습니다. 각 레이어의 입.. lec 9장 lec 9-1 : XOR 문제 딥러닝을 풀기 (Neural Nets(NN)) XOR 문제를 풀기 위해서는 가장 기본적인 unit 하나로는 풀 수 없는 상태였습니다. 하지만 여러개가 합친 logistic이라면 문제를 풀 수 있게 됐습니다. 하지만 복잡한 Network에 들어가 있는 각각의 weight과 bios는 학습하는게 불가능할 것이라는 이야기도 나왔습니다. 이를 NN을 이용해서 XOR 문제를 해결해보도록 하겠습니다. XOR 0 1 0 - + 1 + - 위와 같이 XOR의 성질에 따라 Linear하게 +,-을 구분하는 것은 불가능했습니다. (선 하나를 그어서 +,- 구분은불가능) 이와 같은 상황을 3개의 network을 가지고 해결해보겠습니다. input에는 2개의 값을, output은 1개의 값을 가.. 이전 1 다음
