1. The Gram-Schmidt process 선형독립인지 확인하고 싶으면 행렬식이 0인지 아닌지를 구해볼 것 위와 같은 방식으로 n개의 벡터를 정규화 하면 된다. 주어진 벡터를 이용해서 서로 수직인 벡터들을 만드는 방법이다. 현재 벡터와 여기에 이전 벡터들과 수직인 사영 벡터를 전부 빼주면 된다. 2. Gram-Schmidt process 그람 슈미츠 직교화를 주피터 노트북으로 구현하는 문제 빈칸을 채우는 방식으로 그렇게 어렵지는 않다 3. Example: Reflecting in a plane v1, v2는 평면을 구성하는 벡터, v3는 그 밖의 벡터이다. 그람-슈미트 직교화를 통해 기저 벡터 E를 구한다. e3에 대해 대칭인 위치를 찾고자 하는 것이므로 다른 벡터 두 개는 그대로, e3는 음수로..
분류 전체보기
Orthogonal matrices 행과 열을 바꾼 것을 전치행렬이라고 한다. 전치행렬과 기존 행렬의 곱이 단위 행렬이 되는 경우, 이때의 행렬을 orthogonal matrix라고 한다. 즉, 전치행렬이 곧 역행렬이 되는 경우이고, 곱의 순서는 바뀌어도 상관 없다. 역행렬의 존재 가능 여부를 따질 때 사용된다. 출처: Coursera, Mathematics for Machine Learning: Linear Algebra, Imperial College London
1. Matrices changing basis 검정색은 나의 기저벡터를, 파란색은 곰돌이의 기저벡터를 의미한다. 곰돌이의 기준을 나의 기준으로 표현하거나 그 반대를 시도한다. 곰돌이의 벡터를 나의 좌표계에서 표현하고, 곰돌이 좌표계 기준의 벡터 하나를 곱한다. 그 결과는 나의 기준으로 표현된다. 이 결과에 역행렬을 곱해주면 곰돌이의 벡터를 기준으로 위치가 표현된다. 곰돌이와 나의 기저 벡터를 표현한 또 다른 예 위에서 확인했던 것처럼 곰돌이의 한 좌표를 나의 벡터를 기준으로 곱해주면 내 기준의 위치 표현이 된다. 이를 거꾸로 하는 과정은 역행렬을 통해 수행한다. 단, 곰돌이의 기저벡터가 서로 직교(orthogonal to each other)하는 경우, 내적을 통해 구할 수 있다. 2. Doing a ..
1. Introduction: Einstein summation convention and the symmetry of the dot product the summation convention gives you a quick way of coding up these sorts of operations 행렬곱의 규칙 두 행렬의 곱으로 나오는 만들어지는 행렬은 앞 행렬의 행, 뒷 행렬의 열의 개수로 구해진다. 내적의 기하학적 의미 벡터 u에서 단위 벡터 e1에 내린 projection, 단위 벡터 e2에 내린 projection을 기준으로 대칭되는 삼각형이 만들어진다. 2. Non-square matrix multiplication (Quiz 8) 행렬곱, 내적에 관한 8개 문제 특정 한 원소만 계산하기 내..
5.4.1. QR법의 원리 QR법의 반복 고윳값을 구하고 싶은 행렬을 QR 분해한다. 분해한 결과를 역순으로 곱한다. 곱한 결과를 또 QR 분해한다. 분해한 결과를 역순으로 곱한다. 이를 반복하면 A_k는 A_0의 고윳값을 대각성분으로 지니는 우상삼각행렬에 가까워진다. QR법의 반복은 닮음 변환 행렬을 QR 분해하여 역순으로 곱하는 것은 행렬을 QR 분해하여 얻은 직교행렬을 닮음변환하는 것이다. 고윳값은 변하지 않는다. 왜 우상삼각행렬로 향하는가 QR법과 거듭제곱법의 모든 고윳값을 구하는 경우에서 단위행렬을 초깃값으로 한 경우는 k스텝의 값 A_k는 같다. 5.4.2. 헤센버그 행렬 우선 닮음변환으로 해센버그(Hessenberg) 행렬이라는 형태로 변환하고 나서 QR 반복을 시행 헤센버그 행렬은 QR 반..
5.3.1. 절댓값 최대의 고윳값을 구하는 경우 적당히 고른 초깃값 벡터 v에 대해 A를 반복하여 곱한다. A의 절댓값 최대의 고윳값에 대응하는 고유벡터 x_1의 방향에 다가가는 것을 이용한다. 고윳값의 절댓값이 1보다 큰 경우는 각 성분이 너무 커지고, 1보다 작은 경우는 너무작아진다. 따라서 각 스텝에서 길이가 1이 될 수 있도록 조절하며 계산해야 한다. 5.3.2. 절댓값 최소의 고윳값을 구하는 경우 적당히 고른 초깃값 벡터 v에 대해 역행렬 A^-1를 반복하여 곱한다. A의 절댓값 최소의 고윳값에 대응하는 고유벡터 x_n의 방향에 가까워짐을 이용한다. 실제 계산할 때는 역행렬을 구하는데 계산량이 많이 필요하므로 LU 분해를 한다. 5.3.3. QR 분해 Q는 A의 열벡터의 그람-슈미트(Gram-S..