본문 바로가기

딥러닝3

파이토치 기본 문법 PyTorch Basics¶ Numpy + AutoGrad 라는 장점이 있다. Numpy operation이 torch에도 거의 적용된다. Numpy의 ndarray가 파이토치의 tensor와 동일하다고 보면 된다. In [1]: import torch import numpy as np In [2]: data = [[3,5], [10,5]] x_data = torch.tensor(data) x_data Out[2]: tensor([[ 3, 5], [10, 5]]) In [7]: data = [[[1,2],[3,4]], [[1,2],[3,4]]] x_data = torch.tensor(data) x_data Out[7]: tensor([[[1, 2], [3, 4]], [[1, 2], [3, 4]]]) In.. 2022. 2. 24.
파이토치 CNN, RNN 개념과 역전파 MLP 연산¶ MLP(다층신경망)은 각 성분 $h_i$에 해당하는 가중치 행들이 $i$번마다 필요하다. $i$가 바뀌면 사용되는 가중치 행렬의 행도 바뀐다. 그래서 가중치 행렬의 구조가 굉장히 커지게 된다. (파라미터가 너무 커짐 Convolution 연산¶ 그에 반해 convolution 연산은 고정된 커널(Kernel)을 입력벡터 상에서 움직여가면서 선형모델과 합성함수가 적용되는 구조이다. 위 그림의 $k$는 커널의 사이즈를 의미한다. (k만큼 입력벡터에서 추출) MLP와 달리 $i$에 따라 가중치 행렬이 바뀌지 않음. Kernel 사이즈가 고정이니까 파라미터 사이즈를 많이 줄일 수 있다. 수학적 의미는, 신호(signal)를 커널을 이용해 국소적으로 증폭 또는 감소시켜서 정보를 필터링하는 것이다. .. 2022. 2. 23.
딥러닝 프레임워크, PyTorch의 장점 가장 인기있는 딥러닝 프레임워크, 파이토치(PyTorch) PyTorch는 최신 딥러닝 프레임워크 중 하나로 Facebook에서 개발되었으며 2016년 GitHub에서 오픈 소스화되었습니다. 그리고 이는 딥러닝, 자연어 처리 등에 사용되는 주요 프레임워크 중 하나입니다. PyTorch는 최근 들어서 단순성, 사용 편의성, 동적 계산 그래프 및 효율적인 메모리 사용으로 인기를 얻고 있습니다. 그리고 이미 인공지능 관련 탑티어 논문들에서 파이토치를 텐서플로우보다 더 많이 사용하고 있다는 통계도 나왔습니다. PyTorch는 파이썬 프로그램용 Torch 라이브러리를 사용하여 개발된 머신러닝 라이브러리에 사용되는 오픈 소스 라이브러리입니다. 페이스북 AI 연구소가 개발하고 2016년 1월 컴퓨터 비전, 딥러닝, .. 2022. 1. 27.
반응형

티스토리툴바