1. Key Concepts on Deep Neural Netoworks (Quiz) 어려운 내용은 아닌데 다 맞히기가 어려워서 몇 번이고 시도했다... cache는 forward를 진행하는 과정에서 backward 계산을 편리하게 하기위해 저장하는 변수값이다. 이때 저장되는 Z는 미분계수를 구하는데 사용된다. parameter에는 W,b가 포함된다. activation function, number of layers 등은 hyper parameter에 속한다. vecotirzation을 통해 explict한 for-loop를 줄일 수 있지만 각 layer에 대한 계산을 수행하는데 있어서는 for-loop를 제외할 수 없다. Z,A를 각 layer에 대해 계산하는 알맞은 코드를 고른다. 결과적으로 Z[1..
numpy
1. Nerual Network Basics(Quiz) y hat은 input x가 주어졌을 때 y = 1일 확률이다. logistic loss는 y와 y hat 값이 주어지면 공식을 통해 그 값을 구할 수 있다. boradcasting은 두 행렬의 사이즈 중 일치하는 것을 제외한 나머지 중 큰 것을 기준으로 삼아 확장해주는 기능이다. X의 차원은 열 개수 x 행 개수로 구해진다. for-loop를 vectorize할 때는 matrix의 size를 고려하여 쉽게 구할 수 있다. 2. Python Basics with Numpy sigmoid 구현하기 np.exp 함수를 이용하여 sigmoid 함수를 정의할 수 있다. parameter에 vector가 들어오면 각 원소에 대해 함수를 적용하여 vector를..
1. Effect on the mean 원래의 dataset에 2를 더하면 mean(평균)에 어떤 변화가 생길까? 아주 간단하게 평균값이 2만큼 더 커진 것을 확인할 수 있다. 원래의 dataset에 2를 곱하면 mean(평균)에 어떤 변화가 생길까? 원래의 평균의 2배가 되는 것을 알 수 있다. 이를 일반화한식이 마지막에 적혀있다. 2. Effect on the (co)variance variance는 데이터가 얼마나 흩어져있는지 모여있는지를 파악하는 지표이기 때문에 특정 값을 더한다고 하더라도 분산 자체는 변하지 않는다. 하지만 variance를 구하는 방식이 '데이터들이 평균으로부터 떨어진 거리의 제곱 합'이므로, 특정 값을 곱하게 되면 분산은 그 값의 제곱만큼 커지게 된다. 이를 2차원 이상(다차..
1. Mean of a dataset 데이터가 늘어날수록 흐려진다(blur) mean은 데이터를 대표하는 값으로 데이터셋에 포함되지 않는 값이 mean이 될 수 있다. 어떤 데이터셋의 모든 원소를 더하고 그 개수로 나누어주면 mean(평균)이 된다. 설명했던 것처럼 데이터셋에 포함되지 않는 값인 3.8이 이 데이터셋을 대표하는 값이 된다. 2. Mean of datasets 단순한 집합의 평균을 구하기(1문제) 벡터끼리의 평균을 구하기(3문제) 벡터에 scalar를 더하거나 곱한 뒤에는 평균이 어떻게 변할까? 표본 평균 구하기(1문제) n-1번째의 표본 평균에 특정 데이터가 추가되었을 경우 n번째의 표본 평균을 식으로 나타내기 평균(mean)의 정의를 전개하여 식을 조작해야 한다. 2차원을 1차원으로 ..
