Linear algebra keywords
정방행렬(Square matrix)
정방행렬은 행의 수와 열의 수가 동일한 행렬을 의미합니다. 즉, \( n \times n \) 크기를 가진 행렬을 정방행렬이라고 합니다. 여기서 \( n \)은 행렬의 차원을 나타냅니다.
정방행렬은 선형대수학에서 특히 중요한 역할을 하며, 몇 가지 주요한 수학적 성질과 연산이 정방행렬에 대해 정의되거나 적용됩니다:
- 대각합(Trace): 정방행렬의 주대각선(왼쪽 위에서 오른쪽 아래로 이어지는 대각선) 위의 원소들의 합을 말합니다.
- 결정자(Determinant): 행렬의 특정 수치적 속성을 나타내는 값으로, 행렬이 선형 변환을 나타낼 때 이 변환에 의해 공간이 어떻게 압축되거나 확장되는지를 나타냅니다.
- 역행렬(Inverse): 어떤 정방행렬 \( A \)의 역행렬 \( A^{-1} \)은 \( A \times A^{-1} = A^{-1} \times A = I \) (여기서 \( I \)는 항등행렬)를 만족하는 행렬입니다. 모든 정방행렬이 역행렬을 가지는 것은 아니며, 역행렬을 가지려면 행렬의 결정자가 0이 아니어야 합니다.
- 고유값과 고유벡터(Eigenvalues and Eigenvectors): 정방행렬은 고유값과 고유벡터를 가질 수 있으며, 이는 행렬의 특성 방정식을 통해 계산할 수 있습니다.
대각행렬(Diagonal matrix)
대각행렬은 주대각선(왼쪽 위에서 오른쪽 아래로 이어지는 대각선)을 제외한 모든 위치의 원소가 0인 행렬을 말합니다. 주대각선상의 원소들은 0이 아닐 수도 있고 0일 수도 있습니다.
대각행렬은 일반적으로 다음과 같이 표현됩니다:
\[D = \begin{bmatrix} d_1 & 0 & \cdots & 0 \\ 0 & d_2 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & d_n \end{bmatrix}\]여기서 \( d_1, d_2, \ldots, d_n \)은 대각선상의 원소들입니다.
곱셈과 역행렬: 대각행렬끼리 곱할 때, 같은 위치의 대각 원소끼리 곱하는 것으로 결과 대각행렬의 해당 위치가 결정됩니다. 대각행렬의 역행렬은 각 대각 원소의 역수를 대각선 원소로 가지는 행렬입니다(단, 모든 대각 원소가 0이 아닐 때).
스칼라 곱: 대각행렬에 스칼라를 곱할 때는 각 대각선 원소에 스칼라 값을 곱하면 됩니다.
거듭제곱: 대각행렬을 거듭제곱할 때는 각 대각선 원소를 해당 거듭제곱 수만큼 제곱하면 됩니다.
대각행렬은 그 자체로도 중요하지만, 행렬 분해 과정에서도 중요한 역할을 합니다. 예를 들어, 행렬의 고유값 분해에서는 대각행렬이 고유값을 포함하게 됩니다. 이와 같이 대각행렬은 많은 수학적 및 공학적 문제를 해결하는 데 유용하게 사용됩니다.
대칭행렬(Symmetric matrix)
대칭행렬은 주대각선을 기준으로 좌우가 대칭인 행렬을 의미합니다. 즉, 행렬 \( A \)가 대칭행렬이면, 그 행렬의 모든 요소 \( a_{ij} \)에 대해 \( a_{ij} = a_{ji} \)가 성립합니다. 이는 \( A \)의 전치 행렬 \( A^T \)가 \( A \)와 같다는 것을 의미합니다.
\[A = A^T\]대칭행렬은 다음과 같이 표현됩니다:
\[A = \begin{bmatrix} a & b & c \\ b & d & e \\ c & e & f \end{bmatrix}\]위의 행렬에서 볼 수 있듯이, 대각선 위와 아래의 원소들이 서로 같습니다.
- 실수 고유값: 실수 대칭행렬은 모든 고유값이 실수입니다.
- 직교 고유벡터: 대칭행렬의 고유벡터들은 서로 직교합니다. 이 성질을 이용하여 행렬을 직교 대각화할 수 있습니다.
- 에너지 보존: 물리학과 엔지니어링에서 대칭행렬은 에너지를 보존하는 시스템을 모델링하는 데 자주 사용됩니다.
- 효율적인 계산: 대칭행렬의 성질은 행렬 연산을 더 효율적으로 만들어 줍니다. 예를 들어, 대칭행렬의 고유값 분해는 계산 비용이 더 낮고, 결과도 해석하기 쉽습니다.
대칭행렬은 수학, 물리학, 공학 등 많은 분야에서 그 성질과 효율성 때문에 널리 사용되며, 특히 기계학습과 데이터 분석에서도 중요한 역할을 합니다.
단위행렬(Unit matrix)
항등행렬(Identity matrix) 이라고도 합니다. 대각선상의 모든 요소가 1이고 나머지 요소는 모두 0인 정사각 행렬입니다. 단위행렬은 보통 \( I \) 또는 \( I_n \)으로 표기하며, 여기서 \( n \)은 행렬의 크기를 나타냅니다. 단위행렬은 다음과 같은 특징을 가집니다:
멱등성 (Idempotent): 단위행렬을 자기 자신과 곱하면 결과는 여전히 단위행렬입니다. \(I \times I = I\)
항등원 (Identity Element): 단위행렬은 행렬곱셈에 있어서 항등원 역할을 합니다. 어떤 행렬 \( A \)에 대해 왼쪽이나 오른쪽에서 단위행렬을 곱해도 행렬 \( A \)의 값이 변하지 않습니다. \(I_n \times A = A \times I_n = A\)
역행렬 (Inverse): 단위행렬은 자기 자신이 역행렬입니다. \(I^{-1} = I\)
대각선 성질: 단위행렬의 모든 대각 요소는 1이고, 비대각 요소는 모두 0입니다. 이 특성 때문에 다른 행렬과의 요소별 곱(Hadamard 곱)에서 원래 행렬의 특정 요소만을 추출하는 데 사용할 수 있습니다.
선형 변환: 단위행렬을 사용하는 선형 변환은 벡터를 변형하지 않고 그대로 유지합니다. 즉, 어떤 벡터도 변환 없이 그대로 보존됩니다.
하다마드 곱(Hadamard product)
하다마드 곱(Hadamard product)은 두 행렬 간의 요소별(element-wise) 곱을 말합니다. 행렬 A와 B가 주어졌을 때, 하다마드 곱은 두 행렬의 동일한 위치에 있는 요소들을 곱하여 새로운 행렬을 만듭니다. 이 연산을 수행하기 위해서는 두 행렬 A와 B가 같은 차원을 가져야 합니다.
하다마드 곱은 수학 기호로 ⊙(circle dot)로 표현되곤 하며, A ⊙ B로 쓰여지기도 합니다. 예를 들어, 다음과 같은 두 행렬 A와 B가 있다고 가정해 봅시다: A = \(\begin{bmatrix} a_{11} & a_{12} \\ a_{21} & a_{22} \end{bmatrix}\), B = \(\begin{bmatrix} b_{11} & b_{12} \\ b_{21} & b_{22} \end{bmatrix}\)
이 경우, 하다마드 곱 \(A \odot B\)는 다음과 같습니다:
\[A \odot B = \begin{bmatrix} a_{11} \cdot b_{11} & a_{12} \cdot b_{12} \\ a_{21} \cdot b_{21} & a_{22} \cdot b_{22} \end{bmatrix}\]하다마드 곱은 행렬의 각 요소별로 직접적인 곱셈을 수행하기 때문에, 이 연산은 각 요소의 독립적인 영향을 분석할 때 유용하게 사용됩니다. 딥러닝에서는 특히 활성화 함수를 적용한 후의 결과에 가중치를 요소별로 적용할 때 하다마드 곱이 자주 사용됩니다. 또한, 다양한 행렬 연산이나 신호 처리에서도 중요한 역할을 합니다.
고유벡터(Eigenvector)
고유벡터(Eigenvector)와 고유값(Eigenvalue)은 선형대수학에서 중요한 개념으로, 주로 정사각 행렬에 대해 정의됩니다.
고유값 (Eigenvalue): 어떤 행렬 \( A \)가 주어졌을 때, 행렬 \( A \)를 고유벡터 \( v \)에 곱했을 때의 결과가 원래의 벡터 \( v \)에 스칼라 \( \lambda \)를 곱한 것과 같아지도록 하는 스칼라 \( \lambda \)입니다. 수학적으로 이는 다음과 같이 표현됩니다: \(Av = \lambda v\) 여기서 \( v \neq 0 \)는 벡터이고, \( \lambda \)는 고유값입니다.
고유벡터 (Eigenvector): 위의 식에서, 주어진 고유값 \( \lambda \)에 대해, 행렬 \( A \)에 의해 방향은 유지되면서 스칼라배만큼만 변화하는 벡터 \( v \)를 고유벡터라고 합니다. 고유벡터는 \( v \)가 0 벡터가 아니어야 하며, 행렬 \( A \)의 작용에 의해 방향이 보존되는 벡터를 의미합니다.
고유값과 고유벡터는 행렬이 나타내는 변환의 근본적인 성질을 이해하는 데 도움을 주며, 시스템의 안정성 분석, 물리학에서의 상태 변화, 이미지 압축, 데이터 차원 축소(예: PCA) 등 다양한 분야에서 응용됩니다.