반도체 혁신! TSMC 2나노 공정이 보여주는 '곡선형 마스크'와 기술 진화

세계 반도체 시장의 중심, TSMC(대만반도체제조)는 최근 2나노 공정 'N2'를 선보이면서 업계의 시선을 한몸에 받고 있습니다. 이번 N2에서는 15년 만의 트랜지스터 구조 대전환과 함께, 처음으로 곡선형(커빌리니어) 마스크 기술을 적용해 더욱 미세한 회로를 가능하게 했죠. 이 혁신적인 변화가 어떻게 만들어졌고, 업계에 어떤 영향을 주는지 쉽고 재미있게 풀어보겠습니다.

포토마스크, 반도체 칩 디자인의 핵심

반도체를 만드는 첫 단계는 그림자를 새기는 것과 비슷합니다. 포토리소그래피(Photolithography)는 칩의 설계 이미지를 '포토마스크'라는 유리판에 담아 웨이퍼 위에 투영합니다. 이 과정이 무수히 반복되어 하나의 칩이 완성되죠. 마스크는 그야말로 수백만·수십억 개 칩의 원본이므로, '완벽'이 필수! 특히, 마스크 한 세트는 수십억 원을 넘나들고, 글로벌 IT 기업들의 설계와 IP가 집약되어 있으니 결점 하나도 허락되지 않습니다. 마치 귀중품을 다루듯, 마스크 제작은 자연재해나 미세 환경 변화에도 예민하게 반응하며 신중함을 요구하죠.

미세화의 한계와 "해상도 증강"

반도체 설계가 점점 더 미세해지면서(수 나노미터 단위!), 전통적인 포토마스크 방식만으로는 선명하게 웨이퍼에 회로를 새기기 어려워졌습니다. 빛의 물리적 한계에 매번 도전해야 하죠. 이를 극복하기 위해 마스크에 미세 조정, 즉 '해상도 증강 기법(RET)'이 등장합니다. 대표적으로 회로 모서리에 작은 점이나 선을 추가해, 실제로는 인쇄하지 않지만 설계의 해상도를 높여주는 역할을 하죠. 이처럼 "숨은 그림 찾기"처럼 보이는 미세 패턴은 칩 품질을 결정하는 관건입니다.

다른 각도에서 문제를 풀다: ILT 마스크

단순한 개선만으로는 한계가 있었기에, 새로운 시도가 나온 것이 '역리소그래피 기술(ILT, Inverse Lithography Technology)'입니다. 기존에는 설계 후 마스크를 손봤다면, ILT는 아예 빛의 경로와 칩의 패턴을 바탕으로 '역산'을 거쳐 최적 마스크 이미지를 픽셀 단위로 만들어냅니다. 이런 방식의 마스크는 때론 비정형적이고 환상적인(거의 예술 작품!) 패턴을 보여주지만, 정작 생산성·성능 향상에는 큰 보탬이 됩니다. 공정 오차에 강한 '유연성'도 장점이죠.

곡선과 직선, 그리고 "맨해튼화"의 고민

흥미로운 사실! ILT로 만든 최적의 마스크에는 직각·직선보다 곡선이나 원형이 자주 등장합니다. 하지만, 마스크 제작 장비(Variable Shaped Beam; VSB)는 오랫동안 사각형·직선만 만들 수 있었죠. 그래서 곡선을 마치 도시의 블록처럼 잘게 쪼개 직각 형태로 변환하는 '맨해튼화' 작업을 거쳐야 했습니다. 이 과정에서 정교함이 떨어지고, 제작 시간도 길어지는 단점이 있었죠. 결과적으로 ILT의 '이론적 장점'은 현실의 생산 현장에서 한계가 있었습니다.

수십만 전자빔이 만드는 곡선형 마스크의 시대

문제를 해결한 주인공은 바로 '멀티빔 마스크 라이터(Multi-Beam Mask Writer)'입니다. 기존 한 줄 전자빔(VSB) 대신, 수십만 개의 미세 전자빔이 동시에 움직여 웨이퍼에 곡선을 '그림'처럼 그려냅니다. 각 전자빔은 모니터의 픽셀처럼 미세하게 켜졌다 꺼지며, 더 섬세하고 빠른 조작이 가능해졌죠. 이런 멀티빔 기술 덕분에, 곡선 기반의 ILT 마스크가 실제 대량 생산에 적용되기 시작했습니다.

IMS 나노패브리케이션과 NuFlare, 혁신의 경쟁자들

반도체 마스크 장비 시장은 오스트리아의 IMS 나노패브리케이션과 일본의 NuFlare 두 기업이 선두를 달리고 있습니다. 두 곳 모두 2010년대 초부터 멀티빔 마스크 라이터 장비 개발에 뛰어들어, 불가능에 가까웠던 기술의 상용화를 이끌었습니다. IMS는 인텔 등 글로벌 반도체 기업의 투자를 받아 세계 최초로 상업용 멀티빔 장비를 선보였고, NuFlare 역시 예상보다 빠르게 경쟁제품을 출시, 업계의 기술 진화를 주도하고 있습니다.

GPU 혁명과 CuLitho가 이끈 마스크 설계의 진화

곡선형 마스크의 또 다른 주역은 "GPU 가속기반 소프트웨어"입니다. ILT 마스크는 픽셀 단위로 역산하는 엄청난 계산(예를 들어, 칩 하나에 수조 개의 계산!)이 필요했기에, 과거에는 CPU 병렬처리로 수일 이상 걸리곤 했죠. 하지만 엔비디아, D2S 등 업체가 내놓은 GPU·CuLitho 알고리즘 덕분에, 이제 밤새 작업이 끝날 정도로 속도가 빨라졌습니다. 500대의 최신 GPU가 4만 대 CPU의 일을 해낸다니, IT 초고속 시대 그 자체입니다. 2024년, 엔비디아·TSMC·시높시스가 연합하여 CuLitho를 실생산에 도입했습니다.

AI 칩의 시장 변화와 투자 동기

스마트폰 등 모바일 칩 시장은 원가에 민감하지만, AI 칩(특히 엔비디아 등)의 경우 고품질과 고도화된 설계가 필수적입니다. 이렇게 AI 시장의 성장과 투자 여력이 새로운 곡선형 마스크와 ILT, 멀티빔 기술의 도입을 촉진하고 있습니다. 더불어 서버용 포토닉스 등 첨단 분야까지 기술 혜택이 확대되고 있죠.

앞으로의 전망과 가능성

TSMC의 2나노 공정 곡선 마스크는 아직 '완전한 곡선' 단계까지는 아니지만, 미래에 더욱 진화된 양산이 기대됩니다. 새로운 물리적 한계를 뛰어넘는 ILT 기술과 멀티빔 장비, 그리고 GPU 기반 설계 혁신이 맞물려 '미세 반도체 몰입 시대'가 코앞에 다가오고 있습니다.

마치 작은 예술 작품이 스마트폰, AI 서버 칩 속에 숨어 있는 느낌이랄까요? 반도체 마스크 한 장이 만들어내는 변화가 디지털 세상을 근본적으로 혁신한다는 사실, 무척 놀랍고도 신기하지 않나요?

이번 TSMC 2나노 곡선형 마스크의 진화는 반도체 제조사가 기술·자본·연구자 모두의 협업 아래 얼마나 빠르고 창의적으로 움직이고 있는지 잘 보여줍니다. 독자 여러분이 반도체 이야기를 더 친근하게 느꼈으면 좋겠습니다. 미래 IT·전자제품이 얼마나 더 강력해질지, 언젠가 여러분의 손안에 들어올 칩엔 몇조 개의 곡선이 숨어 있을지도 기대해 보세요!

출처 및 참고 :