[케라스 창시자에게 배우는 딥러닝] 참고
텐서의 예 : 데이터 종류
| Tensor | 크기 | 데이터 종류 |
| 2D 텐서 | (samples, featutres) | 벡터 데이터 |
| 3D 텐서 | (samples, timesteps, features) | 시계열 데이터 또는 시퀀스 데이터 |
| 4D 텐서 | (samples, height, width, channels) 또는 (samples, channels, height, width) |
이미지 |
| 5D 텐서 | (samples, frames, height, width, channels) 또는 (samples, frames, channels, height, width) |
동영상 |
1. 벡터 데이터 (samples, featutres)
대부분의 경우에 해당.
이런 데이터셋에서는 하나의 데이터 포인트가 벡터로 인코딩될 수 있으므로 배치 데이터는 2D 텐서로 인코딩될 것이다.
- 첫번 째 축 : 샘플 축(sample axis)
- 두번 째 축 : 특성 축(feature axis)
예시 :
- 사람의 나이, 우편 번호, 소득으로 구성된 인구 통계 데이터.
- 각 사람은 3개의 값을 가진 벡터로 구성되고 10만 명이 포함된 전체 데이터셋은 (100000, 3) 크기의 텐서에 저장될 수 있다.
- (공통 단어 2만 개로 만든 사전에서) 각 단어가 등장한 횟수로 표현된 텍스트 문서 데이터셋
- 각 문서는 2만 개의 원소(사전에 있는 단어마다 하나의 원소로 대응)를 가진 벡터로 인코딩 될 수 있다.
- 500개의 문서로 이루어진 전체 데이터셋은 (500, 20000) 크기의 텐서로 저장된다.
2. 시계열 데이터 또는 시퀀스 데이터 (samples, timesteps, features)
데이터에서 시간이 (또는 연속된 순서가) 중요할 때는 시간 축을 포함하여 3D 텐서로 저장된다.
각 샘플은 벡터(2D 텐서)의 시퀀스로 인코딩되므로 배치 데이터는 3D 텐서로 인코딩될 것이다.
관례적으로 시간 축은 항상 두 번째 축(인덱스가 1인 축)이다.
- 첫번 째 축 : 샘플 축(sample axis)
- 두번 째 축 : 시간 축(timesteps axis)
- 세번 째 축 : 특성 축(feature axis)
예시 :
- 주식 가격 데이터셋
- 1분마다 현재 주식 가격, 지난 1분 동안의 최고 가격과 최소 가격을 저장
- 1분마다 데이터는 3D 벡터로 인코딩되고 하루 동안의 거래는 (390, 3) 크기의 2D 텐서로 인코딩된다.(하루 거래 시간은 390분이다. *9시반~16시, 6시간반)
- 250일치의 데이터는 (250, 390, 3) 크기의 3D 텐서로 저장될 수 있다.(여기에서 1일치 데이터가 하나의 샘플이 된다.)
- 트윗 데이터셋
- 각 트윗은 128개의 알파벳으로 구성된 280개의 문자 시퀀스이다.
- 여기에서는 각 문자가 128개의 크기인 이진 벡터로 인코딩될 수 있다. (해당 문자의 인덱스만 1이고 나머지는 모두 0인 벡터)
- 그러면 각 트윗은 (280, 128) 크기의 2D 텐서로 인코딩될 수 있다.
- 100만 개의 트윗으로 구성된 데이터셋은 (100000, 280, 128) 크기의 텐서에 저장된다.
3. 이미지 데이터 (samples, height, width, channels)
또는 (samples, channels, height, width)
이미지는 전형적으로 높이, 너비, 컬러 채널의 3차원으로 이루어진다.
MNIST 숫자처럼 흑백인 이미지는 하나의 컬러 채널만 가지고 있어 2D 텐서로 저장될 수 있지만 관례상 이미지 텐서는 항상 3D로 저장된다.
흑백 이미지의 경우 컬러 채널의 차원 크기는 1이다.
256 X 256 크기의 흑백 이미지에 대한 128개의 배치는 (128, 256, 256, 1) 크기의 텐서에 저장될 수 있다.
컬러 이미지는 (128, 256, 256, 3) 크기의 텐서에 저장된다. (컬러 = RGB 3개)
이미지 텐서의 크기를 지정하는 방식은 두 가지이다.
1. (텐서플로에서 사용하는) Channel-last 방식 : (samples, height, width, channels)
2. (씨아노에서 사용하는) Channel-first 방식 : (samples, channels, height, width)
* 일상생활에서 이미지 크기는 보통 (너비X높이)로 말하지만 행렬에서는 행이 먼저이므로 (높이 X 넓이)로 표현됨.
* 케라스 설정 파일 keras.json에서 "image_data_format" 옵션을 "channels_last" 또는 "channels_first"로 지정 할 수 있음.
4. 비디오 데이터 (samples, frames, height, width, channels)
또는 (samples, frames, channels, height, width)
비디오 데이터는 현실에서 5D 텐서가 필요한 몇 안되는 데이터 중 하나이다.
하나의 비디오는 프레임의 연속이고 각 프레임은 하나의 컬러 이미지이다.
프레임이 (height, width, channel)의 3D 텐서로 저장될 수 있기 때문에 프레임의 연속은 (frames, height, width, channel)의 4D 텐서로 저장될 수 있다.
여러 비디오의 배치는 (samples, frames, height, width, channel)의 5D 텐서로 저장될 수 있다.
예시:
- 60초짜리 144 X 256 유튜브 비디오 클립을 초당 4프레임으로 샘플링하면 240프레임이 된다.
- 이런 비디오 클립을 4개 가진 배치는 (4, 240, 144, 256, 3) 크기의 텐서에 저장된다.
- 만약 총 106,168,320개의 값이 float32로 저장되어 있다면?
- 각 값이 32비트로 저장되기 때문에 텐서의 저장 크기는 405MB가 된다. (너무 크다.) 하지만 실생활에서 접하는 비디오는 float32크기로 저장되지 않기 떄문에 훨씬 용량이 적고, 일반적으로 높은 압축률로(MPEG포맷 같은 방식 사용) 압축되어 있다.
* 케라스의 부동 소수 기본 설정은 float32이다. keras.json에서 "floatx" 옵션을 "float16"이나 "float64"로 바꿀 수 있다.
'딥러닝 (Deep Learning) > 딥러닝 기초' 카테고리의 다른 글
| 신경망 - 가중치(weight), 랜덤 초기화(random initialization), 훈련 루프(training loop) (0) | 2021.04.24 |
|---|---|
| 텐서 연산 기초 공부하기 (0) | 2021.04.24 |
| 신경망의 데이터 표현 2 - data 다루기 (0) | 2021.04.24 |
| 신경망의 데이터 표현 1 - tensor (0) | 2021.04.23 |
| 딥러닝 알고리즘의 변화 (0) | 2021.04.22 |