HeeJ's

데이터에 관한 구조화된 데이터로, 다른 데이터를 설명해주는 데이터 데이터에 대한 데이터 캐런 코일(Karen Coyle)에 의하면 '어떤 목적을 가지고 만들어진 데이터(Constructed data with a purpose)' 속성정보라고도 한다. 하위레벨의 데이터를 설명 및 기술하려는 것. 상위 레벨에서 하위 레벨 데이터에 대한 각종 정보(자원의 속성)을 담고 있는 데이터. 즉, 자료 그 자체가 아닌 자료의 속성 등을 설명하는 데이터.(예: 데이터에 관한 정보의 기술, 데이터 구성의 정의, 데이터의 분류 등을 위한 데이터 등) 대량의 정보 가운데에서 찾고 있는 정보를 효율적으로 찾아내서 이용하기 위해 일정한 규칙에 따라 콘텐츠에 대해 부여되는 데이터.(인스타그램의 '해시태그'와 유사하다.) 어떤 데이..

기울기 : 모든 변수의 편미분을 벡터로 정리한 것 def numerical_gradient(f, x): h = 1e-4 #0.0001 grad = np.zeros_like(x) for idx in range(x.size): tmp_val = x[idx] #f(x+h) 계산 x[idx] = tmp_val + h fxh1 = f(x) #f(x-h) 계산 x[idx] = tmp_val - h fxh2 = f(x) grad[idx] = (fxh1 - fxh2 ) / (2*h) x[idx] = tmp_val #값 복원 return grad 기울기 파이썬 구현 # np.zeros_like(x) -> x와 형상이 같고 원소가 모두 0인 배열 생성 numerical_gradient(f, x)의 인수인 f는 함수이고, ..

신경망 학습: 훈련 데이터로부터 가중치 매개변수의 최적값을 자동으로 획득하는 것 -> 데이터에서 학습한다는 것은 가중치 매개변수의 값을 데이터를 보고 자동으로 결정한다는 것. 손실 함수: 신경망이 학습할 수 있도록 해주는 지표 알고리즘을 직접 '설계'하는 대신, 주어진 데이터를 활용해 특징의 패턴을 기계학습 기술로 학습한다. (직접 설계하면 수천, 수만개의 노드를 다 설계해야하기 때문에 효율이 낮다) *특징? 입력 데이터에서 중요한 데이터를 정확하게 추출할 수 있도록 설계된 변환기 하지만, 이미지를 벡터로 변환할 때 사용하는 특징은 사람이 설계해야 한다. -> 적합한 특징을 설계하지 않으면 좋은 결과를 얻을 수 없다. 기계학습을 진행할 때 데이터를 훈련 데이터와 시험 데이터로 나눠 학습과 실험을 수행한다..

머신러닝 문제는 분류와 회귀 두 가지로 나뉘는데, 일반적으로 분류에서는 소프트맥스 함수를, 회귀에는 항등 함수를 이용한다. 분류 ; 어느 클래스에 속하느냐 분류하는 문제 회귀 ; 입력 데이터에서 (연속적인) 수치를 예측하는 문제 항등 함수 identity function 입력과 출력이 항상 같다. x = y 소프트맥스 함수 softmax function exp(x)는 e^x를 뜻하는 지수 함수이다. (e는 자연 상수) n은 출력층의 뉴런 수 y_k는 그 중 k번째 출력 위의 식에서 볼 수 있듯이, 소프틈낵스 함수의 분자는 입력 신호 a_k의 지수 함수, 분모는 모든 입력 신호의 지수 함수의 합으로 구성된다. 이 소프트맥스 함수를 파이썬으로 구현해보면 더보기 import numpy as np def sof..

넘파이 다차원 배열을 이용해 3층 신경망 구현하기 3층 신경망의 입력층(0층)은 2개, 첫 번째 은닉층(1층)은 3개, 두 번째 은닉층(2층)은 2개, 출력층(3층)은 2개의 노드로 구성된다. 더보기 import numpy as np X = np.array([1.0,0.5]) # X=(x1,x2)의 입력값을 나타낸다. W1 = np.array([[0.1,0.3,0.5],[0.2,0.4,0.6]]) #W는 가중치를 나타내는 값이다. #0층에서 1층으로 가는 화살표의 값이기 때문에 2차원 배열을 이용한다. B1 = np.array([0.1,0.2,0.3]) #B는 편향을 나타낸다. print(W1.shape) #(2, 3) print(X.shape) #(2, ) print(B1.shape) #(3, ) #...

퍼셉트론은 복잡한 함수도 표현할 수 있다는 장점과, 가중치를 설정하는 작업은 수동적으로 진행해야한다는 단점이 있다. 이 단점을 해결하기 위해 신경망을 사용한다. 신경망은 퍼셉트론의 단점을 해결하기 위해 가중치 매개변수의 적절한 값을 자동으로 학습하는 능력을 가진다. 인공신경망이란 기계학습과 인지과학에서 생물학의 신경망에서 영감을 얻은 통계학적 학습 알고리즘이다. 시냅스의 결합으로 네트워크를 형성한 인공 뉴런이 학습을 통해 시냅스의 결합 세기를 변화시켜, 문제 해결 능력을 가지는 모델 전반을 가리킨다. (출처: 위키백과) 왼쪽부터 차례대로 입력층, 은닉층, 출력층이라고 부른다. 은닉층의 뉴런은 눈에 보이지 않기 때문에 '은닉'층이라고 불린다. 퍼셉트론의 구조는 이렇게 나타냈었는데, 전에 사용했던 수식을 보..

퍼셉트론이란?? 인공 신경망의 한 종류 1957년에 코넬 항공 연구소의 프랑크 로젠블라트에 의해 고안된 알고리즘 딥러닝의 기원이 되는 알고리즘 퍼셉트론은 다수의 신호를 입력받아 하나의 신호로 출력하는데, 노드(혹은 뉴런)의 가중치와 입력치를 곱한 것을 모두 합한 값이 정해진 한계(임계값;θ)를 넘어설 때 1을 출력 뉴런이 활성화한다라고 표현하기도 한다. 넘지 못하면 0 또는 -1을 출력한다. 각 입력 신호에는 고유한 weight(가중치)가 부여되는데, 가중치는 각 신호가 결과에 주는 영향력을 조절하는 요소로 작용한다. 즉, w가 클수록 해당 신호가 중요하다고 볼 수 있다. 여기서, 델타를 -b로 치환하면 식이 이런 식으로 바뀐다. 위의 식 두개는 기호 표기만 바뀌었지 그 의미는 동일하다. 여기서, b를 ..

머신러닝은 데이터 가공/변환, 모델 학습/예측, 평가의 프로세스로 이루어져있다. 머신러닝; 판단력을 기계에게 부여하는 기술 -> 여기서, 판단력을 '모델'이라고 한다. (판단력을 인간으로 치면 '뇌'에 해당한다고 볼 수 있다.) 러닝 모델은 커다란 함수로 구성되어있다고 할 수 있다. 일반적인 머신러닝의 형식은 모델 정하기 -> 모델 수식화하기 -> 모델 학습하기 -> 모델 평가하기 로 볼 수 있는데, 이 말은 즉, 모델이 머신러닝의 핵심이라고 볼 수 있다. 모델은 크게 간단한 모델, 복잡한 모델, 구조화된 모델로 볼 수 있다. 간단한 모델 데이터 구조가 간단하다는 뜻 데이터 구조가 간단하려면, 모델은 아주 강력한 가정을 해야한다. 대부분 선형모델을 이야기하며, 이해하기 쉽다. 단점: 복잡한 관계는 학습할..