1. What are eigenvalues and eigenvectors? eigenvectors(고유벡터) horizontal, vertical vectors are special horizontal vectors' length was unchanged 이 벡터들의 길이를 eigenvalue(고윳값)라고 한다. 이 개념을 3,4차원 이상으로 확장할 수 있다. horizontal은 그대로 유지, vertical만 두 배로 확장했더니 나머지 벡터의 각과 길이가 달라진다. 그렇기 때문에 horizontal, vertical vectors가 special하다고 한 것이다. shear의 경우 horizontal을 제외한 두 벡터가 달라진다. 하지만 rotation의 경우 어떤 벡터도 변화를 겪지 않았다. 2. ..
1. The Gram-Schmidt process 선형독립인지 확인하고 싶으면 행렬식이 0인지 아닌지를 구해볼 것 위와 같은 방식으로 n개의 벡터를 정규화 하면 된다. 주어진 벡터를 이용해서 서로 수직인 벡터들을 만드는 방법이다. 현재 벡터와 여기에 이전 벡터들과 수직인 사영 벡터를 전부 빼주면 된다. 2. Gram-Schmidt process 그람 슈미츠 직교화를 주피터 노트북으로 구현하는 문제 빈칸을 채우는 방식으로 그렇게 어렵지는 않다 3. Example: Reflecting in a plane v1, v2는 평면을 구성하는 벡터, v3는 그 밖의 벡터이다. 그람-슈미트 직교화를 통해 기저 벡터 E를 구한다. e3에 대해 대칭인 위치를 찾고자 하는 것이므로 다른 벡터 두 개는 그대로, e3는 음수로..
Orthogonal matrices 행과 열을 바꾼 것을 전치행렬이라고 한다. 전치행렬과 기존 행렬의 곱이 단위 행렬이 되는 경우, 이때의 행렬을 orthogonal matrix라고 한다. 즉, 전치행렬이 곧 역행렬이 되는 경우이고, 곱의 순서는 바뀌어도 상관 없다. 역행렬의 존재 가능 여부를 따질 때 사용된다. 출처: Coursera, Mathematics for Machine Learning: Linear Algebra, Imperial College London
1. Matrices changing basis 검정색은 나의 기저벡터를, 파란색은 곰돌이의 기저벡터를 의미한다. 곰돌이의 기준을 나의 기준으로 표현하거나 그 반대를 시도한다. 곰돌이의 벡터를 나의 좌표계에서 표현하고, 곰돌이 좌표계 기준의 벡터 하나를 곱한다. 그 결과는 나의 기준으로 표현된다. 이 결과에 역행렬을 곱해주면 곰돌이의 벡터를 기준으로 위치가 표현된다. 곰돌이와 나의 기저 벡터를 표현한 또 다른 예 위에서 확인했던 것처럼 곰돌이의 한 좌표를 나의 벡터를 기준으로 곱해주면 내 기준의 위치 표현이 된다. 이를 거꾸로 하는 과정은 역행렬을 통해 수행한다. 단, 곰돌이의 기저벡터가 서로 직교(orthogonal to each other)하는 경우, 내적을 통해 구할 수 있다. 2. Doing a ..
1. Introduction: Einstein summation convention and the symmetry of the dot product the summation convention gives you a quick way of coding up these sorts of operations 행렬곱의 규칙 두 행렬의 곱으로 나오는 만들어지는 행렬은 앞 행렬의 행, 뒷 행렬의 열의 개수로 구해진다. 내적의 기하학적 의미 벡터 u에서 단위 벡터 e1에 내린 projection, 단위 벡터 e2에 내린 projection을 기준으로 대칭되는 삼각형이 만들어진다. 2. Non-square matrix multiplication (Quiz 8) 행렬곱, 내적에 관한 8개 문제 특정 한 원소만 계산하기 내..
1. Determinants and inverses Determinant 공간이 얼마나 넓어졌는지를 나타내는 지표 2차원 기준 평행사다리꼴의 면적이 위 예시에 동일하다는 것을 확인할 수 있다. 즉, 행렬식이 같은 경우다. 2차원의 행렬식 구하기 2차원의 행렬식은 ad-bc 가 된다. 역행렬과 1 / 행렬식, 행렬을 곱하면 단위 행렬이 된다. 행렬식과 역행렬의 관계 행렬식이 0인 경우 역행렬은 존재하지 않는다. 행렬식이 0이라는 것은 어떤 문제를 풀기에 정보가 불충분하다는 것을 의미하기 때문이다. 따라서 기약행 사다리꼴을 만들었을 때, 각 열벡터가 선형 독립이어야만 필요한 정보를 모두 갖추고 있는 것으로 이해할 수 있다. 여기서 선형 독립은, 어떤 열벡터를 다른 열벡터들의 연산을 통해 얻지 못한다는 것을 ..