svd
-
#Singular Value Decomposition #특이값분해(3)Data miner/Linear Algebra 2019. 11. 28. 22:13
(AA')와 (A'A)가 대칭행렬이라고 언급하며 특이값분해(2)의 포스팅을 마무리하였다. 이 포스팅에서는 대칭행렬의 특징을 다루고자 한다. A'A(A'는 A의 transpose한 행렬이라고 생각하자)가 SVD에서 나온 이유는, SVD를 eigendecomposition으로 풀기 위함이었다. 일반적으로 (n*n)크기의 B라는 정사각행렬은 linearly independent한 eigenvector가 존재할 때만 대각화가 가능하다. 하지만, 신기하게도 Symmetric Matrix에 대해서, 그러니까 대각선을 중심으로 접었을 때 데칼코마니처럼 값이 같은 경우의 Matrx의 경우에는 항상 대각화가 가능하다(Always diagonalizable). 대각화가 가능하므로, Eigendecomposition이 무조..
-
#Singular Value Decomposition #특이값분해(1)Data miner/Linear Algebra 2019. 11. 25. 17:59
Eigendecomposition과의 차이점은, 분해(decomposition) 대상인 A matrix의 형태가 직사각행렬(m*n, m>n)이라는 점이다. A = UΣV' 의 식을 만족하는 U와 V'를 뽑아내는 과정이라고 볼 수 있으며, 여기에서 U와 V'(첨자 transpose로 표현)는 각 행렬의 열벡터가 orthnormal하다. 즉, 열 벡터의 길이가 1이며, 각기 다른 열벡터들은 서로 직교하는 성질을 만족한다. Σ의 경우, 대각 성분을 제외하고는 다른 성분들은 다 0의 값을 가진다. SVD의 기본형태에서는 U가 m*m의 크기를, V가 n*n의 크기를, Σ가 m*n의 크기를 가지나, Σ가 대각행렬이기 때문에 아래의 줄어든 형태(Reduced form of SVD)로 보아도 무방하다. 특히, 위의 식..