🐹's tory

퍼셉트론 학습이 가능한 초창기 신경망 모델 동작 입력층에 특징 벡터가 들어오면 서로 연결된 특징값과 가중치를 곱한 결과를 모두 더해 s를 얻음 s를 활성함수(activation function)에 입력으로 넣고 계산 활성함수의 출력이 퍼셉트론의 최종 출력 → 1 또는 -1 퍼셉트론은 (+) 영역과 (-) 영역으로 나눠 (+) 영역의 점은 모두 +1로, (-) 영역의 점은 모두 -1로 변환 → 이진 분류기 (그리고 퍼셉트론 목적함수 설계랑 학습 알고리즘까지 노션에 정리되어 있음 !) 다층 퍼셉트론 퍼셉트론은 선형분리(linearly separable)가 가능한 상황에서만 가능, 선형분리가 불가능(linearly non-separable)한 상황은 오류 발생 ⇒ 다층 퍼셉트론은 여러 개의 퍼셉트론을 결합한 ..

선형대수와 확률과 통계가 머신러닝이 중요함 최적화 주어진 데이터로 최적화 문제를 어떻게 공식화 ? → 최적화 공식을 어떻게 풀어 최적의 해, 즉 목적함수를 최소로 하는 점을 찾을 것인가 ⇒ 기계 학습의 핵심주제 최적화 문제해결 해 공간 전체를 샅샅이 뒤지는 낱낱탐색(exhaustive search) 알고리즘 고차원에서는 불가능 → 매우 많은 점에 대해 목적함수를 계산해야 함 각각의 차원을 구간으로 나누고, 이들 각각의 목적함숫값을 계산해 가장 작은 점을 찾음 무작위로 선택된 점들을 탐색하는 무작위 탐색(random search) 알고리즘 기계 학습이 사용하는 전형적인 알고리즘 미분 미분에 의한 최적화 1차 도함수는 어떤 점에서의 기울기, 즉 x가 미세하게 증가했을 때 함숫값의 변화율을 알려줌 → 이런 성..

기계 학습 개념 기계학습은 예측 문제를 해결 회귀 regression : 실숫값을 예측하는 문제 분류 classification : 부류를 예측하는 문제 기계 학습이란 가장 정확하게 예측할 수 있는 최적의 매개변숫값을 찾는 작업임 1. 학습 (성능을 개선하며 최적의 상태에 도달하는 작업 2. 학습된 모델을 사용해 예측 훈련집합으로 모델 학습 → 테스트집합으로 학습된 모델의 일반화 능력 측정 ⇒ 모델을 독립적으로 학습시킨 후 가장 좋은 모델을 선택 최종 목표는 훈련집합에 없는 새로운 샘플(테스트 집합)에 대한 오류를 최소화 + 높은 성능 보장하는 것 → 일반화 능력 특징 공간 변환과 표현 학습 기계 학습은 좋은 특징 공간을 찾아내는 작업 중요 ㄴ 표현 학습(representation learning) : ..