AI관련 이론 및 용어 정리
머신러닝
1. Regression
- 회귀분석
- 주어진 데이터가 어떤 함수로부터 생성됐는가를 알아보는 '함수관계'를 추측하는 것
- 데이터가 존재하면, 그 데이터를 표현하는 함수를 학습할 수 있음
- 단일 회귀 분석에서, x축이 시간이라면 내일의 y값을 예측할 수 있음.
2. Dimensionality reduction
- 자원 축소
- 어떤 목적에 따라서 데이터의 양을 줄이는 여러가지 방법
- 데이터의 의미를 제대로 표현하는 특징을 추려내는 것(feature가 너무 많기 때문에 더 좋은 특징만을 가지고 사용하겠다는 것)
- 주성분분석(PCA: Principal Component Analysis)
> 데이터의 분포를 가장 잘 표현하는 성분을 찾아주는 것
- 학습의 Preprocessing 단계에서 데이터를 학습하기 좋은 형태로 다듬는 역할
3. Bayesian/Variational inference
- 베이지안/변분 추론
4. Latent model
- 잠재 모델
5. Bayes' net
- 베이즈 네트워크
6. Gaussian process / Kernel Method
- 가우시안 프로세스 / 커널 메소드
7. Sampling theory
-
8. Semi-supervised learning(SSL)
- 준 지도 학습
- 레이블링 된 데이터와 레이블링 되지 않은 데이터를 모두 사용
- 한 쪽의 데이터에 있는 추가 정보를 활용해 다른 데이터 학습에서의 성능을 높이는 것을 목표로 함
> 기존 지도학습 데이터에 레이블링 되지 않은 데이터 정보를 추가로 사용해 성능을 향상시키고, 클러스터링 분야에서는 새로운 데이터를 어느 클러스터에 넣을지 결정함에 있어 도움을 받을 수 있음
- 참고
9. Reinforcement Learning
- 강화학습
- 시행착오를 통해 학습하는 방법으로, 실수와 보상을 통해 학습하여 목표를 찾아가는 학습 알고리즘
- 결정을 순차적으로 내려야 하는 문제에 적용 가능(순차적으로 결정을 내려야 하는 문제를 정의하기 위해서는 MDP(Markov Decision Process)를 사용)
10. SVM(Support Vector Machine)
- 서포트 벡터 머신
- 주어진 데이터가 어느 카테고리에 속할지 판단하는 이진 선형 분류 모델
- 서포트 벡터 : 선과 가장 가까운 포인트
- 참고
11. Uncertainty
- 불확실성
- 확률 변수의 분산의 크기, 확률 변수가 얼마나 무작위(랜덤)한지를 측정한 스칼라 값
-
12. Causality
- 인과관계
13. Feature Selection
- 변수 선택 / 속성 선택 / 변수 하위 집합 선택
14. Anomaly Detection
- 이상탐지
딥러닝
1. gradient based learning
2. Regularization
3. CNN
- 합성곱 신경망
4. RNN / LSTM
- 순환 신경망 / 장단기 메모리
-
5. Multi-task
6. Hyperparameter optimization
7. natural language processing
8. Autoencoder
9. GAN
10. Interpretability for neural network
11. Transfer learning
12. Object Detection/Segmentation
13. Graph Convolution
14. Adversarial Attack
수학적인 내용
1. Linear Algebra
2. Probabilistic theory
3. Statistics
4. Optimization theory
5. Set Theory
6. Real Analysis
7. Complexity theory
8. Information theory
9. Topology
딥러닝 프레임워크
1. Tensorflow
2. Keras
- 케라스 : 파이썬 라이브러리로 유저가 손쉽게 딥 러닝을 구현할 수 있도록 도와주는 상위 레벨의 인터페이스.
- 공식문서
3. Caffe
4. CNTK
5. PyTorch
확률 프로그래밍, 모델링 프레임워크
1. Pyro
2. David
3. WebPPL
4. Church
5. Figaro
강화학습 프레임워크
1. OpenAI Gym
2. TensorForce
3. Rlib