전체 글 (34) 썸네일형 리스트형 인공지능 수첩 ( Unconditional Generative Model / Conditional Generative Model / Subclassing / Pix2Pix / Encoder-Decoder / U-Net / PatchGAN / 판별 모델링 / 생성 모델링 / CycleGAN / Neural Style Transfer / GAN / DCGAN ) Unconditional Generative Model (조건 없는 생성모델) - 다양한 노이즈를 계속 입력으로 넣어보고, 특정 이미지가 생성되기를 기다림. - 원하는 종류의 이미지를 바로 생성해 내지 못함. - 생성하고자 하는 데이터에 대해 제어하기 힘듦. - Generator와 Discriminator의 두 신경망이 minimax game을 통해 서로 경쟁하며 발전함. - z = 임의 노이즈 / D = Discriminator / G = Generator - D(x)는 1이 되도록, D(G(z))는 0이 되도록 해야함. Conditional Generative Model (조건 있는 생성모델) - 우리가 원하는 이미지를 바로바로 생성해 냄. - 원하는 이미지를 만들기 위한 특정 조건을 줌. -.. 인공지능 수첩 ( 기울기 소실 / Skip Connection / AlexNet / VGG-16 / ResNet-50 / Degradation Problem / Res-Net / Dense-Net / SE-Net / NAS-Net / Efficient-Net / VGG ) 기울기 소실 (Vanishing Gradient) - 모델이 깊어질수록 학습을 위한 Gradient가 사라지는 현상 - 활성화 함수를 변경하거나 가중치 초기화 방법을 통해서 기울기 소실 문제를 완화할 수 있음. Skip Connection - 레이어의 입력을 다른 곳에 이어서 Gradient가 깊은 곳까지 이어지도록 함. - 레이어와 Skip Connection이 있는 블록을 Residual Block이라고 함. - segmentation에서 활용되는 U-Net의 구조도 일종의 Skip connection으로 볼 수 있음. AlexNet - 기존에 있던 Le-Net에 CNN과 더 많은 class를 갖고 있는 네트워크 - ReLU함수, 드롭아웃, 오버래핑 풀링(Overlapping pooli.. 인공지능 수첩 ( 레이어 / Convolution / Deconvolution / Upsampling의 종류 / 합성곱 신경망 / 세임 패딩 / 밸리드 패딩 / 풀링 ) 레이어 (layer) - 여러 개의 논리적인 개체가 층을 이루어서 하나의 물체를 구성하는 것 - Linear 레이어는 선형 변환을 활용해 데이터를 특정 차원으로 변환함. - Linear 레이어는 입력의 차원, 출력의 차원에 해당하는 가중치(Weight)를 가짐. - 가중치(Weight)의 모든 요소를 파라미터라고 함. - 지나치게 많은 파라미터는 오버피팅을 야기함. - Dense클래스 속 use_bias파라미터를 True로 바꿔주면 편향 값을 더해줄 수 있음. - tf.keras.layers.Layer.count_params(): 총 파라미터 개수를 출력함. import tensorflow as tf batch_size = 64 boxes = tf.zeros((batch_size, 4, 2)) # T.. 이전 1 2 3 4 5 6 7 ··· 12 다음
