mojo's Blog

※ Regression Models Modeling the relationship between one or more explanatory variables \(x\) and a dependent variable \(y\) Widely used for predicting and forecasting continuous values x는 하나의 값으로 표현되거나 여러 개의 변수로 구성된 경우가 존재한다. y는 연속적인 값, 즉 실수형의 데이터로 표현된다. 회귀모델은 보통 날씨 예측이나 온도 예측, 가격 예측 등의 모델에서 활용될 수 있다. x가 한개인 경우 Simple, 2개 이상의 변수로 구성되어 있는 경우 Multiple 로 분류된다. 그리고 Simple, Multiple 에서 선형, 비선형으로 구성된..

※ Challenges of Optimization Problem Finding minimum by closed form is often difficult or impossible. Quadratic functions in many variables - System of equations for partial derivatives may be ill-conditioned. m개의 변수보다 더 많은 파라메터를 가진 경우 기본적으로 analytic solution 을 구하는 것이 불가능하다. Other convex functions - Global minimum exists, but there is no closed form solution. convex function은 위와 같이 웅덩이 모양의 볼록 함수..

※ Three steps in Supervised Learning 1. 데이터를 수집하는 단계(Labelled Data) x와 y의 쌍 (x, y) 으로 구성된 데이터를 구축 x에 대응되는 y라는 레이블을 수집하는 labeling 작업을 거친다. 2. 모델 선택 단계(Model with tuneable parameters) 모델은 학습하고자 하는 parameter가 존재한다. parameter를 학습하는 방법은 주어진 x, y의 숨겨진 관계를 찾는 최적의 parameter를 찾는 과정이다. 3. 알고리즘 최적화(Optimization algorithm) x와 y 관계를 잘 표현하는 cost function 또는 error function 를 최적화하는 방향으로 우리가 원하는 parameter를 결정한다...

※ Why Deep Learning? As the amount of data increases, deep learning shows better performance. - GPU, 고성능 하드웨어로 인해 개선 - 많은 데이터를 수집할 수 있음 - 알고리즘의 진보 ※ Conventional ML vs. Deep Learning input을 어떻게 표현하는지가 중요한 문제이다. 딥러닝은 feature extraction과 classfication이 한꺼번에 일어난다. 반면에 머신러닝은 feature extraction과 classification이 따로 일어난다. 딥러닝은 feature extraction 단계를 학습을 하기 때문에 더 효과적으로 동작이 이뤄진다. ※ Convolutional Neural N..

※ What is Machine Learning? A field of study that lets computers have the ability to learn by themselves without being explicitly programmed. => 머신러닝은 명시적인 규칙 없이 스스로 학습한다는 것으로, 주어진 data로 자기 스스로 관계를 추론하는 관계를 찾아내는 컴퓨터 프로그래밍이다. A computer program to learn from experience E with respect to some class of tasks T and performance measure P, if its performance at tasks in T, as measured by P, improves w..