Deep Learning Overview 딥러닝 개요 - ML의 NN내의 한 분야로서 여러 Hidden Layer를 가진 Deep Neural Network(DNN; 심층 신경망)을 기반으로 하는 학습 방법이다. - 다중처리 계층으로 구성된 계산 모델을 사용해 여러 수준의 Abstraction을 통해 데이터 표현을 학습하여 어떤 것을 인식하는 방법이다. - Hinton이 RBM과 Drop-Out이라는 새로운 딥러닝 기반 학습 알고리즘을 제안하며 오랫동안 미해결된 Overfitting 문제를 해결할 수 있었다. * DNN(심층 신경망; HW)과 딥러닝(SW)이 개발된 배경 기존 NN에서 Hidden Layer의 개수를 늘려 보다 더 정교한 학습이 필요해졌다. CPU와 GPU의 Performance가 비약적..
Multilayer Perceptron Model (MLP) 다층 퍼셉트론 모델 - 기존의 Single-Layer Perceptron Model에서 하나 이상의 Hidden Unit(은닉층)을 사용하는 신경망 모델이다. - Backpropagation Algorithm(역전파 알고리즘)을 통해 단층 퍼셉트론 모델의 제한점들을 극복했다. - '역전파' 알고리즘의 용어는 Input Unit에서 Hidden Unit을 거쳐 Output Unit으로 값이 이동하다가 다시 반대 방향으로 되돌아오는 특성으로 인해 명명됐다. - 단층 퍼셉트론과 유사한 구조이지만, 은닉층과 각 노드의 입출력 특성을 비선형으로 유지함으로써 네트워크 능력을 향상시켰다. - MLP에서 해결한 문제는 아래와 같다. Single-Layer P..
Single-Layer Perceptron Model 단층 퍼셉트론 모델 - Mark I Perceptron은 최초의 신경망 하드웨어 장치였으며, Single-Layer Perceptron Model은 최초로 문자를 인식한 신경망 모델이다. - 1969년 Minsky의 『Perceptrons』에 의해 단층 퍼셉트론 모델의 한계점이 분석되며, 신경망 관련 연구는 15년 동안 침체기를 맞이했다. - Single-Layer Perceptron Model의 제한점은 아래와 같다. Perceptron의 출력은 오직 0 또는 1이다. Linear Separatable(선형 분리 가능)한 집합만 Classification가능하다. - 즉, AND, OR, NOT 함수에 대해서는 선형 분리가 가능하지만, XOR 함수는..
Neural Network Overview (NN Overview) 신경망 개요 * Neural Network = Artificial Neural Network = NN - Neural Network(신경망)이란, 인간 두뇌의 생물학적 뉴런의 작용('학습'과 '인지')을 모방하여 여러 뉴런들로부터 들어오는 입력을 일정한 함수를 거쳐 출력 노드를 통해 결과를 얻어내는 네트워크이다. - 각 뉴런은 독립적으로 작동하는 Processor로, NN은 Parallelism이 뛰어나다. - Connectionism(연결주의) 기반 인공지능 모델이다. - 일반적으로, 신경망에서의 학습은 Supervised Learning(지도 학습)으로 이루어진다. - 신경망을 통한 음성인식 기술은 음성 파형의 오차에 대한 허용도가 ..
Artificial Intelligence Overview 인공지능 개요 - 인간 수준의 지능을 구사하고, 인간의 지능적 행위를 대신할 수 있는 컴퓨터 시스템을 의미한다. - 즉, 인공지능은 사람에 의해 만들어진 지능적 시스템이다. - Robot은 인간의 "육체 노동"을 대신하는 시스템이다. Types of AI (인공지능의 분류) Weak AI (Narrow AI; 약인공지능) - 특정 문제만을 해결할 수 있는 수준의 인공지능이다. - 사람의 지능적 행위를 '흉내'낼 수 있는 수준이다. Strong AI (Artificial General Intelligence; 강인공지능, 인공일반지능) - 사람과 같은 지능 수준을 가진 인공이다. - 추론, 문제해결, 판단, 계획, 의사소통, Self-Awarene..
Parameter Optimization 파라미터 최적화 - 알파 모델에 필요한 파라미터들을 가장 좋은 성능을 낼 수 있도록 최적화하는 작업을 의미한다. Modelparameter Optimization (모델파라미터 최적화) - 모델 파라미터는 머신러닝 모델에서 필요한 파라미터로, 머신러닝 알고리즘이 스스로 찾는 값이다. Modelparameter Optimization in Logistic Regression Model \(W^t * X = Y\) \(X\) : 입력변수 \(Y\) : 출력변수 \(W^t\) : 로지스틱 회귀에서 찾아야 하는 벡터값 (모델 파라미터) Hyperparameter Optimization (하이퍼파라미터 최적화) - 하이퍼파라미터는 머신러닝 모델을 실행할 때 설정하는 파라미..
Performance Evaluation 성능 평가 - 학습된 인공지능의 성능을 평가하는 도구들에 대해 논한다. Confusion Matrix (Contingency Table; 혼동 행렬, 분할표) - 항목별 분류 결과를 테이블 형태로 표현한 것이다. - 예측 정확도만으로 알 수 없는 머신러닝 모델의 예측 특성과 Bias(데이터 편향) 등의 추가적인 정보를 알 수 있다. * Bias (데이터 편향) - 테스트에 사용된 데이터가 한쪽으로 치우쳐져 있어 예측결과를 제대로 평가할 수 없는 상황을 의미한다. Actual Condition : 실제 값을 의미한다. Predicted Condition : 인공지능이 예측한 값을 의미한다. Positive : Yes 혹은 True를 의미한다. Negative : N..
