Introduction to Programming Frameworks

1. Deep Learning Frameworks

• 이 강의가 제작되던 시기에도 이미 딥러닝 분야에서 활용할 수 있는 다양한 프레임워크들이 존재했다.
• 어떤 프레임워크를 사용할 것인지는 사용자의 선호에 따라 달라질 수 있다.
  하지만 현재 오픈 소스인 것이 이후에는 어떤 이유에 의해서든지 아니게 될 수가 있으므로 장기적으로는(개인의 관점은 아닌듯하다) 어떤 프레임워크를 선택할 것인지에 대해 보다 신중한 판단이 요구된다.

 

2. TensorFlow

Motivating problem

• Cost Function이 위와 같다고 했을 때 TensorFlow를 사용하면 W와 b를 간편하게 구할 수 있다.

import numpy as np
import tensorflow as tf

w = tf.Variable(0, dtype=tf.float32)
x = np.array([1.0, -10.0, 25.0], dtype=np.float32)
optimizer = tf.keras.optimizers.Adam(0.1)

def training(x, w, optimizer):
    def cost_fn():
    	return x[0] * w ** 2 + x[1] * w + x[2]
    for i in range(1000):
    	optimizer.minimize(cost_fn, [w])
    return w

w = training(x, w, optimizer)

• Backpropagation을 통해 학습할 변수를 설정하고 이를 optimizer에 넣어주면 자동적으로 계산을 해준다.
• 단순히 코드 한 줄만 변경하여 optimizer 자체를 바꿀 수도 있고 아주 편리한 기능들이 많다.

 

 

출처: Coursera, Improving Deep Neural Networks, DeepLearning.AI