선형대수학

1. Changing to the eigenbasis T라는 사상이 주어진 벡터를 어떻게 이동시키는지는 매번 행렬 T를 곱해보아야 알 수 있다. 그러나 시행 횟수 n이 커질수록 이 계산은 매우 복잡해지므로 간단하게 만들고자 한다. 이때 diagonal matrix(대각행렬)를 사용하면 이 과정을 간단하게 만들 수 있다. 대각행렬은 주대각선은 전부 1이고, 나머지는 전부 0인 행렬을 말한다. 대각행렬 T를 반복적으로 곱하면 주대각성분만 제곱의 형태가 된다. 고유벡터로 이루어진 행렬 C와, 단위 행렬에 고윳값을 곱한 행렬 D가 있다. T를 위와 같은 방식으로 구하면 C와 C의 역행렬이 사라지며 계산량이 확연하게 줄어들고 일반화도 가능하다. 2. Eigenbasis example horizontal shear..

1. What are eigenvalues and eigenvectors? eigenvectors(고유벡터) horizontal, vertical vectors are special horizontal vectors' length was unchanged 이 벡터들의 길이를 eigenvalue(고윳값)라고 한다. 이 개념을 3,4차원 이상으로 확장할 수 있다. horizontal은 그대로 유지, vertical만 두 배로 확장했더니 나머지 벡터의 각과 길이가 달라진다. 그렇기 때문에 horizontal, vertical vectors가 special하다고 한 것이다. shear의 경우 horizontal을 제외한 두 벡터가 달라진다. 하지만 rotation의 경우 어떤 벡터도 변화를 겪지 않았다. 2. ..

1. The Gram-Schmidt process 선형독립인지 확인하고 싶으면 행렬식이 0인지 아닌지를 구해볼 것 위와 같은 방식으로 n개의 벡터를 정규화 하면 된다. 주어진 벡터를 이용해서 서로 수직인 벡터들을 만드는 방법이다. 현재 벡터와 여기에 이전 벡터들과 수직인 사영 벡터를 전부 빼주면 된다. 2. Gram-Schmidt process 그람 슈미츠 직교화를 주피터 노트북으로 구현하는 문제 빈칸을 채우는 방식으로 그렇게 어렵지는 않다 3. Example: Reflecting in a plane v1, v2는 평면을 구성하는 벡터, v3는 그 밖의 벡터이다. 그람-슈미트 직교화를 통해 기저 벡터 E를 구한다. e3에 대해 대칭인 위치를 찾고자 하는 것이므로 다른 벡터 두 개는 그대로, e3는 음수로..

Orthogonal matrices 행과 열을 바꾼 것을 전치행렬이라고 한다. 전치행렬과 기존 행렬의 곱이 단위 행렬이 되는 경우, 이때의 행렬을 orthogonal matrix라고 한다. 즉, 전치행렬이 곧 역행렬이 되는 경우이고, 곱의 순서는 바뀌어도 상관 없다. 역행렬의 존재 가능 여부를 따질 때 사용된다. 출처: Coursera, Mathematics for Machine Learning: Linear Algebra, Imperial College London

1. Matrices changing basis 검정색은 나의 기저벡터를, 파란색은 곰돌이의 기저벡터를 의미한다. 곰돌이의 기준을 나의 기준으로 표현하거나 그 반대를 시도한다. 곰돌이의 벡터를 나의 좌표계에서 표현하고, 곰돌이 좌표계 기준의 벡터 하나를 곱한다. 그 결과는 나의 기준으로 표현된다. 이 결과에 역행렬을 곱해주면 곰돌이의 벡터를 기준으로 위치가 표현된다. 곰돌이와 나의 기저 벡터를 표현한 또 다른 예 위에서 확인했던 것처럼 곰돌이의 한 좌표를 나의 벡터를 기준으로 곱해주면 내 기준의 위치 표현이 된다. 이를 거꾸로 하는 과정은 역행렬을 통해 수행한다. 단, 곰돌이의 기저벡터가 서로 직교(orthogonal to each other)하는 경우, 내적을 통해 구할 수 있다. 2. Doing a ..

4.5.1. 기하학적인 의미 고유벡터: A를 곱해도 신축만 되고, 방향은 변하지 않는다. 고윳값: 이 신축률(몇 배가 되는가)이 고윳값이다. 실행렬 A에서 복소수가 고윳값, 고유벡터인 경우가 있다. 4.5.2.고윳값, 고유벡터의 성질 λ,p는 정방행렬 A의 고윳값, 고유벡터, α는 임의의 수 A가 고윳값 0을 지니는 것 ↔ A가 특이 1.7p, -0.9p 도 A의 고유벡터. 일반적으로 α가 0이 아니면 αp는 A의 고유벡터 같은 고윳값 λ의 고유벡터 q에 대해 p + q 도 A의 고유벡터, 단 p + q = 0 인 경우는 제외 p는 1.7A나 -0.9A의 고유벡터 p는 A^2이나 A^3의 고유벡터 p는 A의 역행렬의 고유벡터 대각행렬 diag(a1,...,an) 의 고윳값은 a1,...,an. 블록행렬판..