주재걸교수님
-
#Singular Vector Decomposition #특이값분해(2)Data miner/Linear Algebra 2019. 11. 25. 21:06
SVD를 바로 구하는 알고리즘은 없으나, 보통 Eigendecomposition을 구하는 방식으로 우회하여 구할 수 있다고 한다. Eigendecomposition은 정사각행렬에 대해서만 가능하므로, AA'(A의 transpose를 a'로 표현) 혹은 A'A으로 생각해보면 첫번째 등식에서 다음 등식으로 (SVD공식에 의해서) 두번째 등식에서 다음 등식으로 (Othonomal한 성질에 의해서, V의 transpose한 행렬은 V의 역행렬과 같다) 또한, Σ행렬의 전치행렬은 자기 자신이므로, UΣΣ'U' = UΣ^(2)U'가 된다. i) 식과 ii)식의 마지막 부분 UΣ^(2)U'을 보면, 상당히 유사한 모습을 띄고 있다. 다시 한번 말하지만 U는 Othonomal행렬이므로, U' 와 U의 역행렬은 같다. ..
-
#Singular Value Decomposition #특이값분해(1)Data miner/Linear Algebra 2019. 11. 25. 17:59
Eigendecomposition과의 차이점은, 분해(decomposition) 대상인 A matrix의 형태가 직사각행렬(m*n, m>n)이라는 점이다. A = UΣV' 의 식을 만족하는 U와 V'를 뽑아내는 과정이라고 볼 수 있으며, 여기에서 U와 V'(첨자 transpose로 표현)는 각 행렬의 열벡터가 orthnormal하다. 즉, 열 벡터의 길이가 1이며, 각기 다른 열벡터들은 서로 직교하는 성질을 만족한다. Σ의 경우, 대각 성분을 제외하고는 다른 성분들은 다 0의 값을 가진다. SVD의 기본형태에서는 U가 m*m의 크기를, V가 n*n의 크기를, Σ가 m*n의 크기를 가지나, Σ가 대각행렬이기 때문에 아래의 줄어든 형태(Reduced form of SVD)로 보아도 무방하다. 특히, 위의 식..
-
[Diagonalization][Eigendecomposition] 대각화와 아이젠디컴포지션Data miner/Linear Algebra 2019. 11. 8. 14:44
Eigendecomposition n*n크기의 정사각행렬 A matrix를 Diagonal matrix를 포함한 메트릭스의 곱으로 분해하는 방식이다.(iii)의 식) 이를 위해서는 A에 대한 대각화(Diagonalize)가 가능한가? 에 대한 질문부터 먼저 해야 한다. i)의 식을 통해서 D를 구할 수 있는가? 즉, i)식에서, V는 역행렬이 존재해야 하며, D는 대각 성분을 제외하고 모두 다 0인 요소여야 한다. 여기에서 Eigenvector와 Eigenvalue의 개념이 나오는 이유는 ii)식과 관련이 있다. 우변을 보면, V를 각각의 람다배 한 값이다. 즉, A에 의해 선형변환한 V의 열벡터들은, 그 벡터의 방향은 보존된 채 크기만 변화하게 된다. 대각화가 eigenvector와 eigenvalue..