특이값(Singular Value)과 노름(Norm

 

 

특이값, 특이값 분해와 관련한 내용은 해당 포스팅에 정리해두었다.

https://ririhyeri.tistory.com/3

SVD - 특이값 분해 (Singular Value Decomposition)

 

오늘은 이 특이값과 Matrix Norm에 대해 다루어보려고 한다.

 

 

 

그전에,

알아두면 이번 포스팅 내용에서 도움이 되는 Operator Norm

한국어로 번역하면 작용소 놈에 대해서 간단히 정리해보려고 한다.

 

 

Operator Norm은 행렬의 양적인 크기를 구하기 위해, Vector Norm에서 유도한 개념으로 Induced Norm이라고도 한다.

행렬 A라는 Operator가 있을 때 이 Operator A가 x를 변환시킨다고 할 때 

아래와 같이 쓸 수 있다는 것이다.

 

||A||를 파란 네모 부분처럼 쓸 수 있는 이유는  

위와 같은 과정 때문이다.

 

 

 

위 과정, 특히 파란색으로 쓴 부분은 앞으로 볼 Norm과 특이값 관계에서 중간 중간에 활용된다. 

 

 

---

 

 

1. $||A||_{2}$ = $$\sqrt{λ}$$ = $σ_{max}(A)$

(요새 수식이 잘 안돼서 이미지도 첨부합니다 왜이리 안되는지 이유를 못찾는 중.. ㅠㅠ)

 

- $A^{T}A$ 를 symmetric positive semidefinite라고 가정. 즉 $A^{T}A$ = $QΛQ^{T}$.

- Q는 orthogonal matrix (with orthonormal eigenvectors) 라고 가정.

-  Λ를 diagonal matrix with eigenvalues of $A^{T}A$라고 할때

 

위 세가지 가정 하에, 행렬의 L2 norm은 그 행렬의 Largest Singular Value 와 같다는 성질이 성립한다.

또한, 아래와 같은 증명이 가능하다.

 

 

 

 

 

 

 2.

위와 마찬가지로 같은 3가지 가정하에, A의 프로베니우스 놈은 A의 Singular Value의 제곱합에 루트를 씌운 값과 같다.

아래와 같은 증명이 가능하다.