본문 바로가기

Study/Linear Algebra7

[Linear Algebra] 유사 역행렬(Pseudo-Inverse)에 대하여 AI 논문을 읽다보면 항상 행렬이 포함된 수식들을 만나게 됩니다.그 중에서도 역행렬 연산을 만나게 될 때, 이런 궁금증이 생긴적이 있습니다. "역행렬은 정사각행렬일 때만 정의된다고 배웠는데, 정사각행렬이 아닌 경우가 훨씬 많을텐데 어떻게 역행렬을 계산한거지?" 그래서 찾아보니 유사 역행렬(pseudo-inverse)라는 개념이 있었습니다.이것을 활용하면 정사각행렬이 아닌 경우에도 역행렬을 구할 수 있고, 이는 곧 다양한 상황에서 최적해를 찾는데 도움을 줍니다.유사 역행렬 계산 방법이런 방정식이 있다고 해봅시다. $$Ax = b$$위 식의 해를 구하기 위해서는 양변에 $A^{-1}$를 곱해주면 됩니다. 그런데 만약 $A$가 정사각행렬이 아니라면?$A^{-1}$를 정의할 수 없으므로 불가능하겠지요. 하지만,.. 2025. 7. 6.
[Linear Algebra] Eigenvalue(고유값), Eigenvector(고유벡터)에 대하여 이번 포스팅에서는 Eigenvalue(고유값)와 Eigenvector(고유벡터)에 대해서 설명해보겠습니다.학교에서는 단순히 시험치기 위해 구하는 방법만 외우고 지나갔던 기억이 있네요.. 선형대수는 기하학적 의미가 가장 중요한데 말이죠. 구하는 방법도 복습할 겸 정리하고, 그땐 그냥 넘어갔던 기하학적 의미도 챙겨 보도록 하겠습니다. (오늘 갑자기 펜슬이 고장나서 손으로 써야합니다.. 글씨가 매우 더러울 예정 ㅜㅜ)고유값과 고유벡터란?어떤 벡터에 행렬을 곱한 것과 어떤 다른 값을 곱한 결과가 같은 경우, 그 벡터를 고유벡터, 곱한 값을 고유값이라고 합니다. 좀 더 선형대수스럽게 말해볼까요? 고유벡터는 어떤 선형 변환(=행렬 곱)을 했을 때 방향은 바뀌지 않고 크기만 변하는 벡터입니다.이때 그 벡터의 크기를 .. 2025. 7. 1.
[Linear Algebra] Determinant(행렬식)에 대하여 행렬식(Determinant)은 선형대수학을 공부한다면 반드시 마주치게 되는 중요한 개념입니다.이번 포스팅에서는 행렬식의 계산 방법, 그리고 행렬식이 갖는 기하학적 의미를 쉽게 정리해보겠습니다.행렬식 계산 방법이런 행렬 A가 있다고 해봅시다. 그러면 행렬식은 이렇게 계산할 수 있습니다. 간단하죠? 근데 이게 대체 무슨 의미를 가지는 걸까요?행렬식의 기하학적 의미이런 식이 있다고 해봅시다.제가 Matrix(행렬)은 Linear Operator(선형 연산자)이다? 글에서 언급했다시피, 행렬은 공간을 비틀 수 있습니다.즉, $[1, 1]$ 이라는 벡터는 $[[2, 1], [1, 2]]$라는 A 행렬이 만드는 비틀어진 공간에 매핑되어, $[3, 3]$ 벡터로 변하게 되는 것이죠. 이걸 왜 말하고 시작했냐면, 행.. 2025. 6. 23.
[Linear Algebra] Matrix(행렬)은 Linear Operator(선형 연산자)이다? 공부를 하다보면 행렬을 단순히 숫자 더미로 생각하게 될 때가 있는데요, 그러면 우리 뇌는 그냥 본질을 내다버린 계산기가 되어 버립니다. 제가 그랬어요..ㅠㅠ그래서! 우리는 반드시 이 행렬이라는 녀석이 벡터를 변형하는 구조적 도구라는 걸 이해하고 선형대수를 바라보아야 합니다.그래야 선형대수라는 학문을 훨씬 더 입체적으로 볼 수 있게 됩니다.Linear Operator(선형 연산자)란?먼저 선형 연산자가 무엇인지부터 알아야 되겠죠? 선형 연산자는 말 그대로 벡터를 입력받아 다른 벡터로 바꾸는 함수입니다. 그런데 조건이 하나 있어요. 어떤 함수 $T$가 선형 연산자가 되려면, 다음 두가지를 만족해야 합니다.1. 덧셈 보존 (Additivity)$$T(\overrightarrow{u} + \overrightar.. 2025. 5. 19.
[Linear Algebra] Null Space(영공간)에 대하여 선형대수학을 공부하다보면 Ax=0라는 형태의 식을 많이 접하게 되는데요,이걸 기하학적으로 이해하지 못하고 그냥 계산기처럼 수식 계산만 하게되면 선형대수학을 공부하는 의미가 없어집니다.제가 그랬죠... 그래서 다시 공부하는 중... 그러니까 Null space에 대해 정확하게! 직관적으로! 한번 살펴보자구요!Null Space의 수학적 정의 Null Space(영공간)는 선형대수에서 다음과 같이 정의됩니다. 어떤 행렬 A가 있을 때, $A\overrightarrow{x} = \overrightarrow{0}$를 만족시키는 모든 벡터 $\overrightarrow{x}$의 집합 즉, 행렬 A에 곱했더니 결과가 0이 되는 x들만 모은 공간을 말하는 것이죠.Null Space의 직관적 예시아래와 같은 Ax=0 .. 2025. 5. 18.
[Linear Algebra] 선형 독립(Linear Independence)과 기저(Basis) 선형대수학이라는 학문에서 가장 중요한 첫걸음 중 하나로, 선형 독립(Linear Independence)이라는 개념이 있습니다.그리고 이 개념과 짝지어서 나오는 개념이 바로 기저(basis)라는 개념이죠.처음엔 복잡해보일 수 있지만, 차근차근 보다보면 이해가 되더라구요.일단 딱딱한 수학적 정의를 먼저 살펴보고, 제가 이해한 대로 직관적인 설명을 해보겠습니다.Linear Independence의 수학적 정의 벡터들이 선형 결합(linear combination)으로 서로를 만들 수 없다면, 그 벡터들은 선형 독립이라고 합니다. 예를 들어, 벡터들이 $\overrightarrow{v_1}, \overrightarrow{v_2}, \overrightarrow{v_3}$ 일 때,$a_1\overrightarr.. 2025. 5. 18.
[Linear Algebra] 데이터의 차원 선형대수학은 데이터사이언스에서 정말 중요한 학문인데요,바로 데이터를 수학적으로 표현하는 방식을 배울 수 있기 때문입니다. 오늘은 데이터를 차원의 관점에서 바라보았을 때, 어떤 종류가 있는지 한번 알아보겠습니다!데이터의 차원PointScalarVectorMatrixTensor Point는 말 그대로 점 하나입니다. Scalar는 '수' 그 자체를 의미합니다.그래서 위 설명처럼 어떤 수 체계에 속하는지 표기해줍니다. Vector는 이렇게 어떤 차원에 있는 화살표로 볼 수 있습니다.화살표는 2차원에서도 표시할 수 있고, 3차원에서도, 4차원, 5차원, N차원에서 표기가 가능합니다.그래서 보통 벡터는 위 그림처럼 저렇게 몇 차원의 실수인지 표기해줍니다. Matrix는 그럼 뭘까요? 예상이 되죠?벡터들이 여러 개.. 2024. 8. 12.

티스토리툴바