Genetic Algorithm (GA) 유전 알고리즘 - 자연세계의 진화과정(돌연변이, 교배 연산 등)을 기초로 한 전역 최적해 계산 모델로, 최적화 문제를 해결하는 Metaheuristic Algorithm 중 하나이다. - 자연계의 생물 유전학과 다윈의 적자생존에 기본 이론을 두며, 병렬적이고 전역적인 탐색 알고리즘이다. - 비선형 또는 계산 불가능한 복잡한 문제를 해결하는 데 널리 응용되고 있다. - Neural Network(NN) 개념이 대두되기 전까지 가장 주목받던 알고리즘이며, NN이 나온 이후에도 딥러닝에서의 초깃값을 설정할 때 사용되는 등 아직도 중요한 역할을 담당하고 있다. * Neural Network Overview (신경망 개요) (URL) [Artificial Intellige..
Outlier Handling 이상치 처리 - 이상치란, 데이터의 중심에서 많이 떨어져 있는 값을 의미한다. - 이러한 이상치들은 Mean(평균)에는 많은 영향을 미치나, Median(중앙값)에는 많은 영향을 미치지 않는다. - Linear Regression에서는 이상치를 제거해야 성능이 제고되나, k-NN에서는 이상치가 미치는 영향이 크지 않다. - 이상치가 통계학에서 갖는 의의는 아래 포스트를 참조하자. * Outlier (이상치) (URL) [Statistics] Outlier | 이상치 Outlier 이상치 dad-rock.tistory.com - 대표적인 이상치 처리 방법은 아래와 같다: Standard Score(\(Z\); 표준점수)로 변환한 후, \(\pm 3\sigma\) 를 제거하는 ..
Standardization 표준화 - 머신러닝에 사용할 여러 Dataset들이 서로 다른 분포를 갖고 있을 때, 용이한 비교를 위해 표준에 맞추어 데이터들을 통일시키는 작업을 의미한다. - 이때, 데이터들의 평균은 0, 표준 편차를 1에 맞춘다. Mechanism (원리) \(\large{X_{new_i} = {X_i - \mu \over \sigma}}\) Legend Description \(\mu\) - \(X\)의 평균 \(\sigma\) - \(X\)의 표준 편차 - 표준화의 통계학적인 원리는 아래 포스트를 참조하자. * Standardization (표준화) (URL) [Statistics] Standardization | 표준화 Standardization 표준화 dad-rock.tisto..
k-NN Algorithm (k-Nearest Neighbors Algorithm) k-최근접 이웃 알고리즘 - 패턴 인식에서 Classification(분류) 혹은 Regression(회귀)에 사용되는 Non-Parametric Statistics(비모수 통계) 방식 알고리즘이다. - 새로운 데이터가 주어졌을 때, 새로운 데이터 주위에 가장 가까운 k개의 기존 데이터들의 정보로 새로운 데이터를 분류(예측)하는 방법이다. (이를 Regression에 적용하는 경우, 레이블의 평균값으로 새로운 데이터를 예측한다.) - 학습 데이터에 존재할 수 있는 노이즈의 영향을 크게 받지 않는다. - 학습 데이터의 수가 많을 때 보다 효과적인 알고리즘이다. * Non-Parametric Statistics (비모수 통계..
Linear Regression Model 선형 회귀 모델 - 입력 데이터에 대한 선형 함수를 만들어 예측을 수행하는 머신러닝 모델이다. - 하나 혹은 그 이상의 Feature(특성)들이 Label에 미치는 영향을 추정하는 통계 기법을 기반으로 한다. - 회귀가 통계학에서 갖는 의의는 아래 포스트를 참조하자. * Regression (회귀) (URL) [Statistics] Regression | 회귀 Regression 회귀 - 하나 혹은 그 이상의 독립변수(Feature)들이 종속변수(Label)에 미치는 영향을 추정하는 통계 기법이다. Types of Regression (회귀의 종류) - 회귀의 종류는 기준에 따라 아래와 같이 분류 dad-rock.tistory.com Linear Regressi..
Data Science Overview 데이터 사이언스 개요 - 사람으로부터 데이터를 입력받고 관리하는 데이터베이스 수준을 넘어, 자동으로 대량의 데이터를 수집하고 관리하며, 통계를 산출하고 분석하는 방법을 연구하는 학문 분야이다. - 데이터 사이언스에서는 다양한 데이터를 다루는 방법론, 프로세스, 알고리즘, 시스템을 다룬다. - 컴퓨터 과학, 통계학, 경영학이 융합된 학문 분야이다. - Computing Performance, Networking Performance, ML Technique의 발전으로 데이터 사이언스의 잠재력이 주목받기 시작했다. - 데이터 사이언스의 탐구 영역은 아래와 같다: 가시화 통계적 모델링 통계적 컴퓨팅 데이터 기술 데이터 연구 데이터 컨설팅 실세계 응용 과학적 방법론 - 비..
Pattern Recognition 패턴인식 - Pattern이란, 일정한 특징, 양식, 유형, 틀 등을 의미하고, Pattern Recognition은 패턴이나 특징적인 경향을 발견하여 인식하는 것을 의미한다. - 문자인식, 음성인식, 영상인식, 지문인식, 홍체인식 등이 패턴인식의 대표적인 예시이다. Traditional Pattern Recognition - 정보를 사전에 저장해두고, 입력정보와 기존 정보를 대조하여 그 특징을 분석한다. Pattern Recognition on AI - 인간의 학습능력 및 추론능력을 모델링한 인공지능이 외부 대상을 인식한다. Speech Recognition (음성인식) - 사람의 음성을 입력받아 음성에 포함된 언어적 정보를 추출하여 문자 데이터로 전환하는 처리를 의..
