본문 바로가기
반응형

전체 글231

Mathematics for Artificial Intelligence 8강: 베이즈 통계학 맛보기 조건부 확률이란? 베이즈 통계학을 이해하기 위해선 조건부 확률의 개념을 이해해야 한다. 조건부 확률 P(A|B)는 사건 B가 일어난 상황에서 사건 A가 발생할 확률을 의미한다. 베이즈 정리는 조건부확률을 이용하여 정보를 갱신하는 방법을 알려준다. A라는 새로운 정보가 주어졌을 때 P(B)로부터 P(B|A)를 계산하는 방법을 제공한다. 베이즈 정리: 예제 COVID-99의 발병률이 10%로 알려져 있다. COVID-99에 실제로 걸렸을 때 검진될 확률은 99%, 실제로 걸리지 않았을 때 오 검진될 확률이 1%라고 할 때, 어떤 사람이 질병에 걸렸다고 검진결과가 나왔을 때 정말로 COVID-99에 감염되었을 확률은? 사전확률, 민감도(Recall), 오탐율(False alarm)을 가지고 정밀도(Precis.. 2023. 1. 4.
Deep Learning Basis Lecture 4: Convolutional Neural Networks Convolution Continuous convolution Discrete convolution 2D image convolution K(3X3 filter) * I(7X7 image) = Output(5X5) 2D convolution in action Blur, Emboss, Outline RGB Image Convolution 5X5X3 filter / 32X32X3 Image / 28X28X1 feature 32X32X3 Image * Four 5X5X3 filter -> 28X28X4 feature Stack of Convolutions [32X32X3] -> CONV(4 5X5X3 filters), ReLU -> [28X28X4] -> CONV(10 5X5X4 filters), ReLU -.. 2023. 1. 4.
Linear Transformation Transformation A transformation, function, or mapping, T maps an input x to an output y Mathematical notation: T: x -> y Domain: Set of all the possible values of x (정의역) Co-domain: Set of all the possible values of y (공역) Image: a mapped output y, given x Range: Set of all the output values mapped by each x in the domain (치역) Note: the output mapped by a particular x is uniquely determined. Lin.. 2023. 1. 3.
Deep Learning Basics Lecture2: Neural Networks & Multi-Layer Perceptron Neural Networks "Neural networks are computing system as vaguely inspired by the biological neural networks that constitute animal brains." Neural networks are function approximators that stack affine transformations followed by nonlinear transformations. ex) GoogLeNet, ResNet Linear Neural Networks We compute the partial derivatives w.r.t the optimization variables. Then, we iteratively update .. 2023. 1. 3.
Mathematics for Artificial Intelligence 5강: 딥러닝 학습방법 이해하기 신경망을 수식으로 분해하려면 우선 선형모델을 먼저 이해해야 한다. 행렬은 데이터를 모아놓은 행렬 A, 다른 벡터로 보내는 가중치 행렬 W d개의 변수로 p개의 선형모델을 만들어서 p개의 잠재변수를 설명하는 모델을 상상해볼 수 있다. 딥러닝에서 화살표는 가중치 w가 결정짓고, 출력 벡터 o에 softmax 함수를 합성하면 확률벡터가 되므로 특정 클래스 k에 속할 확률로 해석할 수 있다. 소프트맥스 연산 소프트맥스(softmax) 함수는 모델의 출력을 확률로 해석할 수 있게 변환해주는 연산이다. 분류 문제를 풀 때 선형모델과 소프트맥스 함수를 결합하여 예측한다. softmax 함수를 통해 R에 있는 벡터를 확률벡터로 변환할 수 있다. (예: [1, 2, 0] -> [0.24, 0.67, 0.09]) impo.. 2023. 1. 2.
Mathematics for Artificial Intelligence 3강: 경사하강법 미분이 뭔가요? - 미분(differentiation)은 변수의 움직임에 따른 함수값의 변화를 측정하기 위한 도구로 최적화에서 제일 많이 사용하는 기법입니다. 미분 변화율의 극한(limit)으로 정의한다. 미분을 손으로 계산하려면 일일이 h -> 0 극한을 계산해야한다. f(x) = x2 + 2x + 3 f'(x) = 2x + 2 - 최근엔 미분을 손으로 직접 계산하는 대신 컴퓨터가 계산해줄 수 있다. ​ import sympy as sym from sympy.abc import x ​ sym.diff(sym.poly(x**2 + 2*x + 3), x) Poly(2*x + 2, x, domain='ZZ') 요즘은 sympy.diff를 가지고 미분을 컴퓨터로 계산할 수 있다. ​ - 미분은 함수 f의 주어.. 2023. 1. 2.
Deep Learning Basic Lecture 1: Historical Review Introdiction Disclaimer 한 사람이 짧은 시간에 두기에 다양한 연구 주제가 있음. 장님이 코끼리를 만지는 상황을 일반적으로 생각하는데, 딥러닝이라 불리우는 학문은 여러 분야에 얽혀 있다. 일반적으로 3가지가 있는데 ,하나가 구현 실력(텐서플로우, 파이토치)이 중요함. 머릿속에서 떠오른 것을 결과로 뽑는 것. 가장 근간이 되는 것을 보도록 할 것이다. ​ Implementation Skills Math Skills(Linear Algebra, Probability) Knowing a lot of recent Papers ​ - 연구를 하는 입장에서 보면 현재 트렌드와 어떤 논문과 연구가 무엇인지 아는 것이 중요하다. 꼭 알아야하는 논문들 위주. ​ Artificial Inteligence.. 2023. 1. 1.
선형독립과 선형종속 선형독립 - 재료 벡터들의 스팬 안에 해가 존재하며, 밖에 있으면 해가 존재하지 않다. - 스팬 안에 상수 벡터가 들어와 있으면 해가 존재하는데, 그 해가 과연 유니크할 것인지와 유일하게 하나만 존재하는지 여러개가 존재할 수 있을 건지를 봐야한다. - 기준이 되는 부분이 linear independence. 상수 벡터가 평면에 들어와 있으면 두개의 벡터의 적절한 크기를 찾아서 두개의 벡터의 평행사변형, 정확하게 b벡터에 일치하도록 하는 솔루션에 부합하는 길이를 찾는게 선형결합에서의 길이를 늘리고, 줄이는 해를 찾는 과정이다. - 평행 사변형의 길이는 하나로 픽스가 되는데, 해가 여러개 존재하면 평행사변형을 여러개를 만들 수 있다는 의미이며, 여러 가능성이 있을 때, 주어진 세개의 벡터가 선형 의존이 되고.. 2023. 1. 1.
선형방정식과 선형시스템 항등 행렬과 역행렬 ​ - 주어진 변수들의 계수가 같다고 하여 상수 형태로 나타남. b는 상수, 계수라고 부르는데, 알려진 값이 변수가 된다. - 선형대수는 코딩을 할 때도 한번에 설명 가능. 좌변의 것을 내적, 로우 벡터와 칼럼 벡터의 곱으로 나타냄. 좌변을 나타낸다. - A라는 칼럼 벡터, 간단하게 표현하는 형태로 하나의 간단한 식으로 나타내고, 연립 방정식 푸는 것과 같다. 수명을 결정하는 몸무게, 키, 흡연 유무, 수명이라는 정보를 알았다면 이의 가중하부를 라이프-스팬의 최적의 계수를 찾으려 할 것이다. - 선형식을 만들어 첫번째 식으로 방정식을 만들 수 있으며, 선형대수에서 벡터나 매트릭스로 직관적으로 쉽게 절차를 생각할 수 있게 툴을 사용한다. - 개수를 다 모아놓은 매트릭스 A를 만들고, 이.. 2022. 12. 29.
Mathematics for Artificial Intelligence 1강. 벡터가 뭔가요? 벡터는 숫자를 원소로 가지는 리스트(list) 또는 배열(array)이다. 백터는 공간에서 한 점을 나타낸다. 벡터는 원점으로부터 상대적 위치를 표현한다. 벡터에 숫자를 곱해주면 길이만 변한다. 벡터끼리 같은 모양을 가지면 덧셈, 뺄셈을 계산할 수 있다. 벡터끼리 같은 모양을 가지면 성분곱(Hadamard product)을 계산할 수 있다. import numpy as np x = np.array([1, 7, 2]) y = np.array([5, 2, 1]) x + y array([6, 9, 3]) x - y array([-4, 5, 1]) x * y array([ 5, 14, 2]) 벡터의 덧셈, 뺄셈을 알아보자 벡터는 공간에서 한 점을 나타낸다. 벡터는 원점으로부터 상대적 위치.. 2022. 12. 28.
Numerical Python - numpy numpy part 1 코드로 방정식 표현하기 coefficient_matrix = [[2, 2, 1], [2, -1, 2], [1, -1, 2]] constant_vector = [9, 6, 5] 다양한 Matrix 계산을 어떻게 만들 것인가? 굉장히 큰 Matrix에 대한 표현 처리 속도 문제 - python은 Interpreter 언어 적절한 패키지의 활용 파이썬 과학 처리 패키지 Numpy Numerical Python 파이썬의 고성능 과학 계산용 패키지 Matrix와 Vector와 같은 Array 연산의 사실상의 표준 한글로 넘파이로 주로 통칭 누군가는 넘피/늄파이라고 부르기도 함 Numpy의 특징 일반 List에 비해 빠르고, 메모리 효율적 반복문 없이 데이터 배열에 대한 처리를 지원함 선형대.. 2022. 12. 28.
File / Exception / Log Handling [생각해 보기] 프로그램 사용할 때 일어나는 오류들 주소를 입렵하지 않고, 배송 요청 저장도 안 했는데, 컴퓨터 전원이 나감 게임 아이템 샀는데, 게임에서 튕김 →예상치 못한 많은 일(예외)들이 생김 Exception 1) 예상 가능한 예외 발생 여부를 사전에 인지할 수 있는 예외 사용자의 잘못된 입력, 파일 호출 시 파일 없음 개발자가 반드시 명시적으로 정의해야 함 2) 예상이 불가능한 예외 인터프리터 과정에서 발생하는 예외, 개발자 실수 리스트의 범위를 넘어가는 값 호출, 정수 0으로 나눔 수행 불가시 인터프리터가 자동 호출 예외 처리 (Exception Handling) 예외가 발생할 경우 후속 조치 등 대처 필요 1) 없는 파일 호출 -> 파일 없음을 알림 2) 게임 이상 종료 -> 게임 정보 저.. 2022. 12. 27.
반응형