Getting into the detail of eigenproblems

1. Speical eigen-cases

 

1) uniform scaling

• 모든 벡터가 고유벡터

 

2) rotation

• non-zero pure rotation이 존재
• 적어도 몇몇의 고유벡터를 가지는 180도 pure rotation
• 정확히 반대 방향을 가리키고 있지만 여전히 같은 span 위에 존재한다.
• 고윳값은 -1 이 된다. 벡터의 길이는 동일하지만 반대 방향을 가리킨다는 의미다.

 

3) combination of horizontal shear and a vertical scaling

• horizontal shear에는 기존의 세 벡터 중 horizontla vector만 고유벡터로 인식된다.
• 하지만 나머지 두 벡터 사이의 보이지 않는 벡터는 선형변환 이전, 이후 둘 다 같은 span 위에 위치한다. 아래 그림에서 빨간 선으로 표시된 벡터가 그러하다.

원래의 벡터를 옮겨 겹친 것을 노란색으로 표시했다.

 

3차원에서의 rotation

• 3차원에서도 2차원과 마찬가지의 개념들이 적용된다. 단, rotation의 경우 한 벡터는 그대로 두고 나머지 두 벡터만 바뀐다.
• 이것이 의미하는 바는 가만히 멈춰있는 벡터가 고유벡터이며, 곧 회전의 축(axis)이라는 것이다.

 

 

 

2. Calculation eigenvectors

 

• nxn 사이즈 행렬 A를 통해 x를 선형변환한다. 이것이 벡터 x를 확장하는 '어떤 수 λ와 벡터 x의 곱'과 동일한 경우를 본다.

 

• 식을 정리하여 전개하면 위와 같다. 단위 행렬이 추가된 것은 행렬과 스칼라의 뺄셈이 정의되지 않았기 때문이다.
• 벡터 x가 0인 경우는 우리의 관심사가 아니다. 어떤 크기도 갖지 않은 벡터는 확인할 필요가 없기 때문이다.
• 따라서 A - λI 가 0인 경우를 살펴봐야 하는데, 이를 위해서는 행렬식이 0인지 아닌지를 보면 된다.

 

• 수직으로 확장한 경우 존재할 수 있는 고윳값은 두 가지이다.
• 이때 고유벡터는 강 경우에 따라 무한히 존재할 수 있다. 변수 t는 어떤 값이든 올 수 있다는 것을 의미한다.

 

• 하지만 회전시키는 사상의 경우 행렬식이 0이되는 실수해가 존재하지 않는다. 따라서 실수의 고윳값이나 고유벡터도 존재하지 않는다.

 

 

3. Characteristic polynomials, eigenvalues and eigenvectors (Quiz 11)

 

주어진 2차원 변환 행렬 A를 보고 적절한 고윳값과 고유벡터 구하기 (10문항)

• 실수해가 존재하지 않는 경우도 존재
• 중근인 경우도 존재

 

 

 

출처: Coursera, Mathematics for Machine Learning: Linear Algebra, Imperial College London