AI 서버 시대, 대역폭 벽과 공동 패키지 광학 혁신의 모든 것

최근 AI와 데이터센터 산업의 급격한 성장으로 인해 서버 내 데이터 전송 방식에 새로운 변화가 필요해졌습니다. 컴퓨팅 파워는 엄청나게 발전했지만, 데이터 입출력(IO) 대역폭의 한계를 넘어서기 위해서 '공동 패키지 광학(Co-Packaged Optics)' 기술이 주목받고 있습니다. 이 글에서는 AI 시대 데이터센터의 대역폭 문제, 그리고 그 혁신적 해결책으로 떠오른 공동 패키지 광학 기술의 원리, 현황, 도전과 전망까지 핵심적으로 정리합니다.

데이터센터의 대역폭 병목 현상, 왜 중요한가?

서버와 네트워크는 상상을 초월하는 수준으로 계산 능력이 향상돼 왔지만, 데이터 전송 용량 증가는 그만큼 빠르지 않습니다. 불과 20년 사이 GPU 성능은 17만 배 이상 올라갔지만, 데이터 입출력 속도는 여전히 속도 제한에 갇혀 있습니다. 특히 AI 모델 훈련과 대규모 서비스에선 방대한 데이터가 초고속으로 이동해야 하기에, 대역폭의 '벽'이 데이터센터 효율성을 좌우합니다.

기존 서버 데이터 전송 구조와 광학 IO의 역할

오늘날 서버 랙에서는 수많은 데이터를 스위치 칩이 처리한 뒤, 전기 신호로 전송합니다. 2미터 이상 거리에서는 신호 손실과 간섭이 심해져서 광섬유로 바꿔 전송하는데, 여기서 '광학 트랜시버'가 핵심 역할을 합니다. 이 소형 모듈은 전자 신호를 빛으로 변환해주며, 서버 기기의 전면 패널에 삽입되어 쉽게 교체할 수 있습니다. 광학 엔진(레이저, 모듈레이터 등)과 전기 신호 처리 장치가 협력해 빠르고 안정적으로 데이터를 주고받습니다.

AI 시대의 슈퍼 스위치 칩과 광학 IO의 한계

반도체 미세공정 덕분에 스위치 칩 용량은 빠르게 커지고 있습니다. 예를 들어, 2023년 브로드컴은 무려 102.4Tbps급 스위치 칩을 내놓았습니다. 반면, 광학 트랜시버는 최대 1.6Tbps까지 발전했지만, 그 속도 격차는 여전히 큽니다. 전기-광 변환 과정에서는 '서디즈(SerDes; 직렬/병렬 변환기)'가 병목 및 고전력 소모의 원인이 되고 있습니다. 실제로 트랜시버와 SerDes가 전체 서버 전력의 상당 부분을 차지하며, 이는 곧 운영비와 확장성의 큰 부담으로 다가옵니다.

공동 패키지 광학(Co-Packaged Optics) 기술의 원리와 장점

공동 패키지 광학은 스위치 칩과 광학 트랜시버/엔진을 하나의 패키지 혹은 동일한 기판에 결합하는 방식입니다. 이로써 전기 신호가 이동하는 거리가 대폭 줄어들고, 불필요한 구리선 연결과 신호 손실, 공간 낭비도 최소화됩니다. 광학 모듈을 아예 칩 가까이 두면 더 높은 대역폭, 더 낮은 지연시간, 더 뛰어난 에너지 효율성을 얻을 수 있습니다. 최근 TSMC와 엔비디아, 브로드컴 등이 차세대 패키지 광학 솔루션을 출시하며 시장을 선도하고 있습니다.

공동 패키지 광학 개발의 기술적 도전과 극복 방안

가장 까다로운 문제는 '열'입니다. 고성능 패키지에서 광학 회로는 열 민감도가 높아, 과열 시 신호가 왜곡되고 전체 시스템 성능이 저하될 수 있습니다. 이를 해결하기 위해 칩 외부에 레이저 소스를 두거나, IC 위에 광학 엔진을 3D 적층하는 구조 등이 연구되고 있습니다. 광섬유의 미세한 결합, 손실 없이 빛을 정확히 집어넣는 '커플링' 기술도 핵심 과제로 꼽힙니다.

업계 트렌드: AI, 대형 데이터센터와 Co-Packaged Optics의 상용화

2023~2025년 AI의 가속적 확장으로 인해 엔비디아, TSMC, 브로드컴 등 제조사들은 공동 패키지 광학의 상용화에 박차를 가하고 있습니다. 엔비디아는 최근 스펙트럼 X·퀀텀 X 등 광학 일체형 스위치 플랫폼을 선보이며, 기존 제품 대비 3.5배 이상 에너지 효율과 10배 이상 네트워크 회복력 강화를 내세웁니다. 브로드컴, IR Labs 등 주요 패키지 공급사들도 8Tbps 이상 광학 엔진을 출시하며 호환성과 확장성을 높이고 있습니다.

미래 전망: 순수 광학 AI칩의 실현은 아직 먼 이야기

광학 기술이 데이터센터의 대역폭 문제 해결에 핵심이 되면서 '올-포토닉(All-Photonic)' AI 칩 꿈도 등장합니다. 하지만 경제적 관성(70년 이상 축적된 실리콘 기술), 열·커플링 및 광학 논리 회로의 난제 등으로 풀광학 시스템 상용화는 아직 갈 길이 멉니다. 대신, 구리 대신 루테늄 사용 등 진화적인 전자 기술 개선과 병행해, ‘빛과 전자의 협력’이 가장 현실적인 방향입니다.

마무리

AI 대규모 시대, 대역폭 벽은 더이상 무시할 수 없는 현안이 되었습니다. 공동 패키지 광학(Co-Packaged Optics) 기술은 서버·네트워크 산업의 새로운 패러다임을 열고 있습니다. 근본적 한계를 돌파하려는 다양한 기업과 기술들의 도전은 앞으로도 계속될 것입니다. 효율적 인프라 구축이 필요하다면, 트렌드 변화와 신기술 도입에 관심을 가지는 것이 필수입니다.

원문 :