저지연 트레이딩 시스템에서 Shared Memory가 중요한 이유 | Trading Engineering #7

저지연 트레이딩 시스템에서 Shared Memory가 중요한 이유

Trading Engineering Series — 07

저지연 트레이딩 시스템에서는 단순히 CPU 성능이나 네트워크 속도만 중요한 것이 아닙니다.

시스템 내부에서 데이터가 어떻게 전달되고, 얼마나 복사되며, 프로세스 간에 어떻게 동기화되는지 역시 전체 latency에 큰 영향을 줄 수 있습니다.

특히 시장 데이터와 주문 데이터가 여러 프로세스를 거쳐 전달되는 구조에서는 IPC(Inter-Process Communication)의 효율성이 중요한 설계 요소가 됩니다.

이러한 환경에서 활용되는 대표적인 기술 중 하나가 Shared Memory입니다.

---

1. 프로세스 간 데이터 전달은 왜 중요한가?

일반적인 트레이딩 시스템은 여러 프로세스로 구성됩니다.

예를 들어:

Market Data Process → Strategy Process → Order Process → FEP Process

각 프로세스는 자신의 역할을 수행하면서 다음 프로세스에 데이터를 전달합니다.

문제는 프로세스 간 데이터 전달 과정에서 다음과 같은 작업이 발생할 수 있다는 것입니다.

• 데이터 복사
• 시스템 콜
• IPC 처리
• Context Switch
• Buffer 관리
• Synchronization

데이터가 전달되는 횟수가 많아질수록 이러한 비용도 누적될 수 있습니다.

특히 초당 매우 많은 시장 데이터를 처리하는 시스템에서는 작은 처리 비용도 전체 성능에 영향을 줄 수 있습니다.

---

2. 일반적인 IPC와 데이터 복사

프로세스 A가 프로세스 B로 데이터를 전달한다고 생각해 보겠습니다.

일반적인 구조에서는 다음과 같은 흐름이 발생할 수 있습니다.

Process A → Buffer → IPC → Process B Buffer

이 과정에서 동일한 데이터가 여러 메모리 영역으로 복사될 수 있습니다.

예를 들어 시장 데이터 하나를 처리하기 위해:

Network Buffer → Application Buffer → IPC Buffer → Strategy Buffer

와 같은 여러 단계가 만들어질 수 있습니다.

데이터 크기가 커지고 메시지 빈도가 증가하면 이러한 memory copy 비용도 무시하기 어려워집니다.

---

3. Shared Memory란 무엇인가?

Shared Memory는 여러 프로세스가 하나의 메모리 영역을 공유하도록 구성하는 방식입니다.

개념적으로는 다음과 같습니다.

Process A
↓
Shared Memory
↑
Process B

프로세스 A가 데이터를 Shared Memory에 기록하고, 프로세스 B가 동일한 메모리 영역에서 데이터를 읽을 수 있습니다.

이를 적절하게 설계하면 프로세스 간 데이터 전달 과정에서 발생하는 불필요한 데이터 복사를 줄일 수 있습니다.

따라서 Shared Memory는 저지연 시스템에서 효율적인 IPC를 구현하기 위한 중요한 방법 중 하나입니다.

---

4. Shared Memory와 Ring Buffer

Shared Memory를 트레이딩 시스템에서 활용할 때 자주 사용되는 구조 중 하나가 Ring Buffer입니다.

개념적으로는:

Producer → Ring Buffer → Consumer

형태입니다.

Producer는 데이터를 기록하고 Consumer는 데이터를 읽습니다.

Buffer의 공간을 순환해서 사용하기 때문에 지속적으로 발생하는 시장 데이터나 이벤트를 효율적으로 처리할 수 있습니다.

예를 들어:

Market Data Process
↓
Shared Memory Ring Buffer
↓
Strategy Process

와 같은 구조를 구성할 수 있습니다.

시장 데이터가 지속적으로 발생하는 환경에서는 이러한 구조가 효율적인 데이터 전달 방식이 될 수 있습니다.

---

5. Lock을 줄이는 것이 중요한 이유

Shared Memory를 사용한다고 해서 자동으로 시스템이 빨라지는 것은 아닙니다.

여러 프로세스가 동일한 메모리에 접근하기 때문에 Synchronization 역시 중요한 문제가 됩니다.

예를 들어 데이터를 기록하는 프로세스와 읽는 프로세스가 동시에 같은 영역을 변경한다면 데이터의 일관성을 보장하기 위한 동기화가 필요합니다.

이때 무분별한 Mutex나 Lock을 사용하면 오히려 latency가 증가할 수 있습니다.

따라서 저지연 시스템에서는 다음과 같은 설계를 고려할 수 있습니다.

• Single Producer / Single Consumer
• 최소한의 Lock
• 짧은 Lock Scope
• Atomic Operation
• Ring Buffer
• 명확한 Ownership

핵심은 Shared Memory 자체보다 데이터를 어떻게 공유하고 동기화할 것인가입니다.

---

6. Single Writer 구조

특히 여러 프로세스가 동일한 데이터를 동시에 변경하지 않도록 설계하는 것이 중요합니다.

예를 들어 하나의 데이터 영역에 대해:

Writer 1 → Data
Writer 2 → Data
Writer 3 → Data

와 같이 여러 Writer가 동시에 접근하면 동기화가 복잡해집니다.

반면:

Single Writer → Data → Multiple Readers

와 같은 구조에서는 데이터의 Ownership을 명확하게 만들 수 있습니다.

이러한 구조는 Lock을 줄이고 시스템 동작을 예측하기 쉽게 만드는 데 도움이 됩니다.

물론 모든 시스템에 Single Writer 구조가 적합한 것은 아니며, 데이터 특성과 처리 패턴에 따라 설계해야 합니다.

---

7. Shared Memory는 모든 곳에 필요한가?

그렇지는 않습니다.

Shared Memory가 항상 최고의 선택은 아닙니다.

예를 들어 다음과 같은 상황에서는 일반적인 IPC나 Message Queue가 더 적합할 수도 있습니다.

• 데이터 빈도가 낮은 경우
• latency 요구사항이 높지 않은 경우
• 프로세스 간 결합도를 낮춰야 하는 경우
• 장애 격리가 중요한 경우
• 운영 및 유지보수의 단순성이 중요한 경우

Shared Memory는 성능상의 장점을 제공할 수 있지만, 그만큼 설계와 운영의 복잡성도 증가할 수 있습니다.

따라서 중요한 것은 무조건 Shared Memory를 사용하는 것이 아니라, 실제 latency-critical path에 필요한 부분에 적절하게 적용하는 것입니다.

---

8. 트레이딩 시스템에서 Shared Memory는 어디에 사용되는가?

저지연 트레이딩 시스템에서는 다음과 같은 구조를 생각할 수 있습니다.

Market Data
↓
Shared Memory
↓
Strategy
↓
Shared Memory
↓
Order Manager
↓
DMA / FEP
↓
Exchange

특히 Market Data와 Strategy 사이처럼 데이터 발생 빈도가 매우 높은 구간에서는 효율적인 IPC가 중요합니다.

또한 Strategy와 Order Manager 사이에서도 빠른 signal 전달이 필요한 경우 Shared Memory를 활용할 수 있습니다.

---

9. C언어 기반 시스템에서의 고려사항

Shared Memory 기반 시스템을 구현할 때는 메모리 구조 자체도 중요합니다.

예를 들어:

• Fixed-size structure
• Memory alignment
• Cache 효율성
• Buffer layout
• False Sharing
• Atomic operation
• Memory ordering

등을 고려해야 합니다.

특히 여러 CPU core가 동일한 데이터를 처리하는 환경에서는 단순히 메모리를 공유하는 것만으로 충분하지 않습니다.

CPU cache와 memory access pattern까지 고려해야 실제 성능을 개선할 수 있습니다.

결국 Shared Memory 최적화는 IPC 설계 + 메모리 설계 + 동기화 설계를 함께 고려해야 하는 작업입니다.

---

10. Shared Memory와 안정성

저지연 시스템에서는 성능뿐만 아니라 장애 상황도 고려해야 합니다.

Shared Memory를 사용하는 프로세스 중 하나가 비정상 종료되면:

• Shared Memory 상태
• Producer / Consumer 상태
• Buffer 위치
• Message sequence
• 재시작 과정

등을 어떻게 복구할 것인지 고려해야 합니다.

따라서 Shared Memory 기반 시스템은 정상적인 데이터 처리뿐만 아니라 process restart와 fault recovery까지 포함하여 설계하는 것이 중요합니다.

---

11. FontesFintech의 접근 방식

FontesFintech는 저지연 트레이딩 시스템을 설계할 때 데이터 전달 경로 역시 중요한 latency 요소로 보고 있습니다.

특히:

• 불필요한 Memory Copy 최소화
• 효율적인 IPC 설계
• Shared Memory 활용
• Ring Buffer 기반 데이터 전달
• Lock 및 Synchronization 최소화
• Cache 효율성 고려
• 명확한 Data Ownership
• 장애 및 재시작 상황 고려

등을 종합적으로 검토합니다.

중요한 것은 특정 기술을 사용하는 것 자체가 아닙니다.

실제 거래 시스템의 Critical Path에서 어떤 데이터가 어디로 전달되고, 그 과정에서 어떤 비용이 발생하는지를 분석하는 것이 핵심입니다.

---

Conclusion

저지연 트레이딩 시스템의 성능은 CPU나 네트워크 하나만으로 결정되지 않습니다.

프로세스 사이에서 데이터가 어떻게 이동하는지 역시 중요한 요소입니다.

Less Copy
Less Lock
Less Overhead

Shared Memory는 이러한 목표를 달성하기 위한 강력한 방법 중 하나입니다.

하지만 Shared Memory 자체가 목적이 되어서는 안 됩니다.

트레이딩 시스템의 특성과 데이터 흐름을 분석하고, 필요한 구간에 적절한 IPC 구조를 적용하는 것이 중요합니다.

결국 좋은 저지연 시스템은 단순히 빠른 기술을 사용하는 시스템이 아니라,

데이터가 가장 효율적인 경로로 흐르도록 설계된 시스템입니다.