1. The Sandpit 간단한 함수에 대해서는 값이 최대가 되는 좌표가 어디인지 파악하기가 쉽다. 위 그래프는 Jacobian vector를 통해 표현한 것이다. 그러나 대부분은 이렇게 간단하지는 않다. 앞서 다루었던 복잡한 식을 표현하면 위와 같다. 여기서는 global maximum A와 local maximum C,E가 존재한다. 반대로 global minimum D와 local minimum B가 존재한다. 얼마나 가파른지에 대한(gradient) 정보를 각 좌표를 기준으로 표시하면 아래 그래프와 같다. 우리는 모든 것을 관망하는 입장에서 어디로 가야 가장 높은지 혹은 가장 낮은지를 알 수 있다. 하지만 실제로는 모든 데이터에 대한 정보를 파악하고 미리 알 수는 없으므로 마치 밤길을 거니는 것..
