Cara's Moving Cara's Moving

Eigendecomposition과의 차이점은, 분해(decomposition) 대상인 A matrix의 형태가 직사각행렬(m*n, m>n)이라는 점이다. A = UΣV' 의 식을 만족하는 U와 V'를 뽑아내는 과정이라고 볼 수 있으며, 여기에서 U와 V'(첨자 transpose로 표현)는 각 행렬의 열벡터가 orthnormal하다. 즉, 열 벡터의 길이가 1이며, 각기 다른 열벡터들은 서로 직교하는 성질을 만족한다. Σ의 경우, 대각 성분을 제외하고는 다른 성분들은 다 0의 값을 가진다. SVD의 기본형태에서는 U가 m*m의 크기를, V가 n*n의 크기를, Σ가 m*n의 크기를 가지나, Σ가 대각행렬이기 때문에 아래의 줄어든 형태(Reduced form of SVD)로 보아도 무방하다. 특히, 위의 식..

Eigendecomposition n*n크기의 정사각행렬 A matrix를 Diagonal matrix를 포함한 메트릭스의 곱으로 분해하는 방식이다.(iii)의 식) 이를 위해서는 A에 대한 대각화(Diagonalize)가 가능한가? 에 대한 질문부터 먼저 해야 한다. i)의 식을 통해서 D를 구할 수 있는가? 즉, i)식에서, V는 역행렬이 존재해야 하며, D는 대각 성분을 제외하고 모두 다 0인 요소여야 한다. 여기에서 Eigenvector와 Eigenvalue의 개념이 나오는 이유는 ii)식과 관련이 있다. 우변을 보면, V를 각각의 람다배 한 값이다. 즉, A에 의해 선형변환한 V의 열벡터들은, 그 벡터의 방향은 보존된 채 크기만 변화하게 된다. 대각화가 eigenvector와 eigenvalue..