최근 공개된 UpDown: Efficient Manycore based on Many Threading & Scalable Memory Parallelism는 "코어를 더 세게"보다 "메모리를 더 똑똑하게" 다루는 방향에 주목해 눈길을 끌었습니다1. 한마디로, 연산 유닛만 늘려서는 해결되지 않던 메모리 병목을 많은 스레드와 높은 메모리 병렬성으로 돌파하겠다는 발상입니다.
UpDown이 주목받는 이유
오늘날 많은 시스템은 코어 수는 늘었는데, 정작 데이터가 늦게 도착해 성능이 묶이는 일이 많습니다. 특히 그래프 분석, 데이터 집약형 처리, 불규칙한 메모리 접근이 많은 워크로드는 CPU의 높은 단일 스레드 성능만으로 잘 풀리지 않습니다.
여기서 핵심이 바로 메모리 수준 병렬성, 즉 MLP입니다. 이는 한 번에 여러 메모리 요청을 겹쳐 처리하는 능력을 뜻합니다2. 쉽게 말해, 한 줄 서기 대신 여러 계산이 동시에 데이터를 기다리게 만들어 전체 대기 시간을 줄이는 방식입니다.
UpDown은 이 지점을 정면으로 겨냥합니다. 전통적인 "큰 코어 몇 개"보다, 많은 스레드를 통해 메모리 지연을 숨기고, 확장 가능한 메모리 병렬성을 활용해 실제 처리량을 끌어올리려는 구조로 볼 수 있습니다1.
Manycore와 멀티스레딩의 차별점
병렬 컴퓨터 아키텍처에는 SIMD, MIMD, GPU, MPP 같은 다양한 방식이 있습니다34. GPU도 수많은 스레드를 다루지만, 비교적 규칙적인 데이터 병렬성에서 특히 강합니다. 반면 UpDown이 겨냥하는 문제는 메모리 접근 자체가 들쭉날쭉한 경우에 더 가깝습니다.
이때 멀티스레딩은 단순히 "한 프로그램을 여러 조각으로 나눈다"는 수준이 아닙니다. 같은 프로세스 안에서 많은 스레드가 움직이며, 어떤 스레드가 메모리를 기다리는 동안 다른 스레드가 바로 실행되도록 해 공백을 메웁니다5. 즉, 느린 메모리 때문에 코어가 멍하니 서 있는 시간을 줄이는 것이죠.
결국 UpDown의 매력은 계산 성능 경쟁보다 "대기 시간 숨기기"에 최적화된 manycore 철학에 있습니다. 화려한 클럭보다 바쁜 메모리 시스템을 얼마나 효율적으로 활용하느냐가 승부처라는 뜻입니다.
Scalable Memory Parallelism이 중요한 이유
대규모 병렬 시스템에서 성능은 코어 수만으로 결정되지 않습니다. 프로세서가 많아질수록 인터커넥트와 메모리 구조가 더 중요해집니다3. 아무리 연산 자원이 많아도 메모리가 순차적으로만 반응하면 전체 시스템은 병목에 걸립니다.
그래서 "확장 가능한 메모리 병렬성"이라는 표현이 중요합니다. 소수의 메모리 요청만 잘 처리하는 것이 아니라, 스레드와 작업이 늘어나도 여러 메모리 동작을 계속 동시에 처리할 수 있어야 합니다. 이는 전통적인 단일 스레드 중심 CPU 설계와 다른 관점입니다.
특히 데이터 집약형 워크로드에서는 최고 단일 스레드 점수보다, 메모리 지연을 견디면서 얼마나 많은 작업을 꾸준히 흘려보내는지가 더 중요할 수 있습니다. 일반 소비자용 CPU 시장이 여전히 단일 스레드 성능을 강하게 본다는 점과도 대비됩니다67.
시사점
UpDown은 "더 빠른 코어"의 연장선이 아니라, "메모리 병목 시대에 맞는 컴퓨팅 방식"에 가깝습니다. 많은 스레드, manycore, 높은 MLP를 조합해 데이터 이동이 지배적인 작업에서 효율을 얻으려는 접근이기 때문입니다.
실무적으로 보면, 이런 아키텍처는 그래프 처리, 분석 엔진, 메모리 지연이 큰 시스템 소프트웨어 영역에서 특히 의미가 큽니다. 앞으로 병렬 컴퓨팅을 볼 때도 코어 수만 보지 말고, 스레드 운영 방식과 메모리 병렬성을 함께 봐야 합니다. 진짜 성능은 종종 연산기보다 메모리 쪽에서 갈리니까요.
참고
1UpDown: Efficient Manycore based on Many Threading & Scalable Memory Parallelism
2Memory-level parallelism - Wikipedia
3Massively parallel - Wikipedia
4CIQ | Parallel Computer Architecture
5Difference between Multiprocessing and Multithreading - GeeksforGeeks
이 노트는 보도·비평·교육·연구 목적으로 작성되었습니다. 저작권 문의가 있으시면 에서 알려주세요.