skinamalink 님의 블로그

DiagonalizationWe want to change a given square matrix $A \in \mathbb{R}^{n \times n}$ into a diagonal matrix $D$ via the following form: $D = V^{-1}AV$, where $V \in \mathbb{R}^{n \times n}$ is an invertible matrix and $D \in \mathbb{R}^{n \times n}$ is a diagonal matrix. This process is called the diagonalization of $A$Finding V and D: How can we find $V$ and $D$? From $D = V^{-1}AV$, we get $..

Eigenvectors and Eigenvalues -An eigenvector of a square matrix $A \in \mathbb{R}^{n \times n}$ is a nonzero vector $x \in \mathbb{R}^{n}$ such that $Ax = \lambda x$ for some scalar $\lambda$-In this case, $\lambda$ is called an eigenvalue of $A$, and such an $x$ is called an eigenvector corresponding to $\lambda$-Consider a linear transformation $T(x) = Ax$. If $x$ is an eigenvector, then $T(x)..

Orthogonal Projection Perspective -To solve the Least Squares problem mathematically, we look at it from an Orthogonal Projection Perspective-For an invertible matrix $C = A^TA$, the orthogonal projection of vector $b$ onto the column space of $A$ is defined as $\hat{b} = f(b) = A\hat{x} = A(A^TA)^{-1}A^Tb$-The computation becomes significantly simpler if we use orthogonal or orthonormal setsIf ..

1교시 : [Deep Learning] 자연어 처리(NLP) 기초1. 자연어 처리의 시작: 임베딩(Embedding)-벡터화(Vectorization): 컴퓨터는 글자 자체를 이해하지 못하고 숫자만 처리 가능하기 때문에, 텍스트 데이터를 수치화하는 과정이 필수적임. 이때 이 수치화 과정을 벡터화라고 함-One-Hot Encoding: 벡터화의 초기 방식. 단어 집합의 크기를 차원으로 하여, 표현하고 싶은 단어 인덱스에만 1을 부여하고 나머지는 0으로 표시하는 희소 표현 -문제점:(1) 두 단어의 거리가 사과와 강아지만큼 멀어진다는 문제 >> 즉, 의미 정보를 아예 못 담아서 단어 간의 유사도 계산이 어려우며(의미 결여)(2) 단어 수가 증가하면 0이 무한대 증가하는 차원의 저주 발생 2. 워드 임베딩(W..

[ Introduction of Least Squares Problem ]1. Over-determined Linear Systems-An over-determined system is a set of linear equations where the number of equations ($m$) is much greater than the number of variables ($n$)-In real-world data (ex_ predicting life-span based on weight, height, and smoking), we usually have far more data examples than features, leading to $m \gg n$-Because there are too ..

1교시 : [Deep Learning 기초] 인공신경망과 퍼셉트론1. DL의 등장 배경 및 복습-Rule-based AI(규칙 기반)에서 머신러닝(학습 기반)으로의 이동-사람이 규칙을 명시적으로 작성하던 방식에서 데이터로부터 규칙(패턴)을 자동으로 학습하게 됨 -초기 머신러닝 모델들 선형회귀(목적: 연속값 예측), 로지스틱 회귀(목적: 이진 분류), 퍼셉트론(목적: 이진 분류/초기 신경망) 공통점 : 구조가 단순하고 결정경계가 선형 (직선/초평면 기반) 2. Perceptron의 구조와 한계(1) 퍼셉트론퍼셉트론: 인간의 뉴런 신경망을 수학적으로 모방하여 만든 가장 단순한 형태의 인공 신경망-다수의 입력값(Input, 특정 벡터 x)에 각각의 가중치(Weight, z = w^T/x+b)를 곱해 모두 더하..

1. Concept of Transformation-A transformation (or mapping) $T$ maps an input $x$ to an output $y$-The set of all possible inputs is called the Domain, the set of all possible outputs is the Co-domain, and the set of actual mapped output values is the Range선형대수학에서 '변환(Transformation)'은 '함수' 개념과 유사즉, Input(정의역, Domain)을 넣었을 때 규칙에 따라 Output(치역)을 뱉어내는 mapping process를 의미 2. Linear Transformation-A t..

2-3. 선형독립과 선형종속 1. Linear System and the Uniqueness of Solutions ($Ax=b$)-When we have a linear system represented by the matrix equation $Ax=b$, the existence of a solution depends on the columns of matrix $A$-The solution exists only when the target vector $b$ is within the Span of the matrix's columns, for example, $b \in \text{Span}\{a_1, a_2, a_3\}$ -If the solution exists, it is unique onl..

1교시 [ 지도 학습(1): 회귀 ]1. 회귀의 정의(1) 회귀란? 데이터의 흐름을 파악하여 임의의 지점에서의 연속된 수치를 알아내는 것으로, 과거의 데이터를 바탕으로 미래의 특정 값을 숫자로 도출하는 과정 (단순히 값을 맞히는 게 아닌 데이터의 흐름을 파악하는 것) (2) 회귀 vs. 분류-수치 예측: 회귀의 핵심 목적으로, 연속적인 숫자값을 추측하는 것을 의미구분RegressionClassfication질문의 성격얼마나(how much)어느 것(which one)결과값 형태continuousdiscrete예시내일 기온은 24도씨 일 것이다.다음 달 주가는 얼마일까?내일 비가 올 것인가? (Yes/No)이 사진은 고양이인가, 강아지인가? 2. 가설 설정-선형 회귀: 데이터 사이를 관통하는 선 즉,..

옮기는 중