VAST Fundementals(101) - Introduction

 

DASE(Disaggregated, Shared-Everything) 아키텍처를 보여주는 다이어그램(VAST Data의 핵심 구조)

 

- CNodes (Compute Layer) / Stateless Containers

역할 : 클라이언트 요청 처리(NFS, SMB, S3 등), 메타데이터 처리, 실제 데이터는 저장 안함

특징 : 상태 없음(Stateless), 장애나도 다른 노드가 바로 takeover 가능, Kubernetes 구조와 유사

 

- DNodes (Storage Layer) / Exabyte-scale NVMe

역할 : 실제 데이터 저장(NVMe SSD)

특징 : 완전히 Scale-out 가능(노드 수평 확장), Generation N(계속 확장 가능), 기존 스토리지처럼 RAID 컨트롤러 없음

 

- NVMe Fabric (중간 연결)

역할 : CNode <-> DNode 연결, RDMA 기반(Infiniband / RoCE)

특징 : 매우 낮은 latency, block-level access(NVMe-oF)

 

데이터 흐름

1. 클라이언트 -> CNode 요청

2. Cnode -> NVMe Fabric 통해 DNode 접근

3. DNode -> 데이터 반환

4. CNode -> 클라이언트 응답

 

* Disaggregated(분리) : C노드 / D노드 각각 독립적으로 확장 가능

* Shared Everything(공유) : 모든 C노드가 모든 D노드 접근 가능

전통 NAS : 특정 노드에 데이터 묶임 <-> VAST : 전체 클러스터가 하나의 스토리지처럼 동작

Storage, DB, Computing을 하나로 통합한 플랫폼

 

1. DataStore

- Multi-protocol : NFS / SMB / S3 모두 지원

- 실제 데이터 저장

 

2. Database

- Transactional Data Warehouse

- 데이터 lake + DB 역할 동시에

- 특징 : 별도 DB서버 불필요, 파일->바로 SQL querry 가능

 

3. DataEngine

- 데이터 위에서 직접 연산 수행(Container 기반 병렬 처리, 이벤트 기반 처리)

- 데이터 이동 없이 연산 수행

 

DataSpace

👉 여러 환경을 연결하는 개념

• On-prem (HPE, Dell 등)
• Cloud (AWS, Azure, GCP)
• Colo (Equinix 등)

👉 의미

• 멀티 클라우드 + 온프레 통합 데이터 공간

 

Similarity Reduction

 

1. C노드에 연결된 D노드가 죽은 것을 감지하면(클러스터가 감지),

2. 파트너 D노드가 장애 D-node의 SSD와 SCM에 대한 소유권을 가져간다.

3. C노드는 새로운 D노드로 접근한다(C노드가 새로운 D노드로 자동 라우팅).

4. 클라이언트(GPU서버)는 장애를 거의 인식하지 못한 채 계속 데이터 접근이 가능하다.

 

적은 저장 공간(Overhead)으로도 높은 데이터 안정성(Resilience)를 제공하는 모습.

핵심 keyword

- Erasure Coding(EC)

- Locally-Decodable Erasure Codes(LDEC)

 

1. 데이터를 보호하기 위해 추가로 필요한 저장 공간(Overhead)

- Triplication : 66%

=> 3중 복제 / 원본 A -> AAA

원본 100TB라면, 추가 공간 200TB, 300TB 중 추가 공간이 200TB이므로 66%

 

- Legacy Erasure Coding : 30%

Parity를 이용. 원본 D1,D2,D3,D4 라면 추가 공간 P1, P2 추가.

즉 4개의 데이터 + 2개의 패리티

=> 디스크 하나 또는 두 개 죽어도 복구할 수 있음. 30%의 추가 공간 필요

 

- VAST LDEC : 2.7~3%

원본 데이터 1,2,3, ... , 36 / Parity블록 P1~P4

즉 36개의 데이터 + 4개의 Parity를 하나의 그룹으로 보호함.

왜 Locally-Decodable인가?

기존 EC는 Block17이 죽으면 복구하기 위해 거의 모든 블록을 읽어서 17을 계산한다.

=> 엄청난 DIsk Read, Network Traffic, CPU load 발생

반면 VAST LDEC는 17과 관련된 일부 블록만 읽는다.

예를 들면 15,16,17,18,P2 정도만 읽고 복구할 수 있다.

필요한 부분(Local)만 읽어서 복구한다.