I about me

Review퍼셉트론이란, 신경망의 기본 구성 요소로, 비선형성을 도입하여 복잡한 문제를 풀 수 있게 하였다. NN은 여러 퍼셉트론이 계층으로 결합되어 신경망을 형성하며, 역전파 알고리즘을 사용하여 훈련되고 최적화하는 것이다.이는 학습 속도를 조정하여 수렴을 개선한다. 전체 흐름 보기DPW, b를 학습시키기 위해 backpropagation을 사용한다.이때, 알고리즘적으로 우리는 DP를 사용한다고 할 수 있다.DP란, Recursion + Memorization이다. Naive Recursive Algorithm예를 들어 피보나치인 경우. if n 그러나 이를 효율적이라고 할 수 있는가? 매번 계산을 다시 해줘야하는 큰 단점이 있다.이를 보완하기 위해 "Memorized Recursive Algorithm..

Perceptron프랭크 로젠블랫(Frank Rosenblatt)은 기계가 학습을 통해 데이터를 분류하고 패턴을 인식할 수 있는 것을 만들었다.그는 이 원리를 인식, 감지 등의 의미를 가진 영어 단어  Perception에서 따서 퍼셉트론(Perceptron)이라고 했다. 그리하여 퍼셉트론은 인공지능의 기초를 이루는 모델이다.참고로, 인공지능은 인간의 지능, 즉, 뇌를 모방하기 위한 학문이다.또한 인간의 뇌는 수십억 개의 뉴런으로 구성된 복잡한 기관이다. 뉴런이 수상돌기(Dendrite) 로부터 다른 뉴런의 신호를 받아 축삭(Axon)이 다른 뉴런에 정보를 전달하듯,인공지능은 기계의 입력으로부터 정보를 받아 결과를 내게 하는 것이다. 어쨌든, 구체적으로 퍼셈트론은 입력 데이터를 받아들이고 가중치를 적용한..

본 글은 https://iai.postech.ac.kr/teaching/deep-learning/ 해당 페이지를 보고 공부한 것을 정리한 내용입니다  Polynomial Regression(다항회귀)- 데이터를 표현함에 있어 선형이 아닌 곡선으로 나타나는 경우에 사용하는 회귀- 회귀모델의 차수(degree)를 조절함으로써 데이터에 대한 적합성을 조정할 수 있음 아래 에서 d는 차수를 뜻하므로 d = 1이라면,d = 2이라면,d = n이라면,d = 1 d = 2 d = 3d = 4d = 5d = 6d = 7d = 8d = 9 Errors on Train and Test Datasets다항회귀 모델의 차수(degree)를 변화시키면서- --- : Train  데이터에 대한 잔차 제곱합 (RSS) - ---..

본 글은 https://iai.postech.ac.kr/teaching/deep-learning/ 해당 페이지를 보고 공부한 것을 정리한 내용입니다 머신러닝기계 학습 = 기계가 배운다 그렇다면? 기계가 무엇을? 어떻게? 배울 수 있을까? 과거에는 인공지능을 개발할 때 해당 분야의 전문가들이 만든 많은 양의 샘플들을 데이터 베이스화 하여 자료들을 일일이 수작업으로 컴퓨터에 직접 등록하는 방법 그러나, 대부분의 작업이 사람의 손을 거쳐야 하므로 필연적으로 많은 시간과 노력, 비용이 발생 또한, 시대가 발전함에 따라 사람조차 명확하게 구분할 수 없는 지식(no explicit knowledge)을 구현해야 하거나, 사람이 일일이 구현하기에는 너무 많은 양의 규칙들이 필요한 경우가 생겨나기 시작 그러므로 머신러..

본 글은 https://iai.postech.ac.kr/teaching/deep-learning/ 해당 페이지를 보고 공부한 것을 정리한 내용입니다 Gradient Descent이번 강의에서는 경사 하강법 알고리즘과 그 변형들에 대해 다룰 것Batch Gradient Descent (배치 경사 하강법) Stochastic Gradient Descent (확률적 경사 하강법)Mini-batch Gradient Descent (미니 배치 경사 하강법) 세 가지 경사 하강법 알고리즘의 개념을 로지스틱 회귀 모델을 사용하여 탐구할 것 Gradient Descent의 한계 Adaptive learning rate 학습률이 너무 크다면? 모델이 최적의 값을 지나치게 되어 수렴하지 않을 수 있다학습률이 너무 작다면?..

본 글은 https://iai.postech.ac.kr/teaching/deep-learning/ 해당 페이지를 보고 공부한 것을 정리한 내용입니다 최적화 1) 엔지니어링 문제 해결과 2) 의사 결정을 하는데 많이 중요한 도구이다.ex) 컨테이너의 적재 무게 밸런싱, 식단 구성화(고객 만족도↑, 식단 금액↓) etc다음의 기본요소를 갖는다1) Objective function // 목적 함수      y = f(x)     ex) 여행 거리를 나타내는 함수를 최소화하면서도, 여행에 필요한 시간은 최대한 짧게 만드는 함수2) Decision variable or unknown // 결정 변수 혹은 미지수      ex) 도시 간의 이동 경로, 출발 시간 3) Constraints // 제약 조건     ..