지난 2026년 3월 16일, 엔비디아의 연례 AI 콘퍼런스 GTC 2026에서 젠슨 황 CEO가 삼성전자를 직접 언급하며 파운드리 시장에 새로운 바람을 일으켰어요. AI 추론용 칩 ‘그록3 LPU’의 생산을 삼성전자가 담당하게 된다는 소식이죠. 이번 발표는 삼성전자 파운드리 사업에 큰 전환점이 될 뿐 아니라, AI 반도체 시장의 패러다임이 ‘학습’에서 ‘추론’으로 빠르게 이동하고 있음을 보여주는 중요한 사건이에요.
아래 표를 통해 이번 소식의 핵심을 먼저 한눈에 정리해 볼게요.
| 구분 | 핵심 내용 | 의미 |
|---|---|---|
| 발표 주체 | 엔비디아 젠슨 황 CEO | GTC 2026 기조연설 |
| 주요 발표 | 그록3 LPU (Language Processing Unit) 공개 | AI 추론 전용 칩 |
| 생산 파트너 | 삼성전자 파운드리 | 4나노 공정 생산 담당 |
| 출하 시점 | 2026년 하반기 (3분기 목표) | 수주는 확정된 상황 |
| 시스템 구성 | 루빈 GPU + 그록3 LPU 조합 | 학습과 추론 역할 분리 |
| 기대 효과 | 토큰 생성 속도 35배 향상, 비용 절감 | AI 에이전트 시대 대비 |
목차
엔비디아가 삼성전자 파운드리를 선택한 이유
GTC 2026에서 젠슨 황은 “삼성이 우리를 위해 그록3 LPU 칩을 제조하고 있습니다. 지금 최대한 생산을 늘리는 중입니다. 삼성에게 정말 감사드립니다”라고 말했어요. 이 발언은 단순한 감사 인사 이상의 의미를 가지고 있어요. 엔비디아가 지난해 약 29조원에 인수한 AI 반도체 스타트업 그록의 핵심 기술이 담긴 차세대 추론용 칩의 생산라인을 TSMC가 아닌 삼성전자에 맡겼다는 건 시장에서 상당히 의미 있는 선택이죠.
이전까지 파운드리 시장에서 TSMC의 독점 구조가 강했지만, 엔비디아의 이번 결정으로 그 틈새 시장에 삼성전자가 본격적으로 진입할 수 있는 길이 열렸어요. 특히 올해 하반기, 빠르면 3분기부터 출하가 시작될 예정이라고 밝혀 실질적인 수주 효과도 빠르게 나타날 전망이에요. 이는 삼성전자 파운드리 사업부의 실적 턴어라운드에 직접적인 영향을 미칠 중요한 계기가 될 거예요.
참고자료: 엔비디아, 그록 기술 결합해 추론 성능 강화 칩 생산은 삼성전자 파운드리가 담당
AI 칩 시장의 큰 그림 학습과 추론의 분리
지금까지 AI 칩 시장은 무겁고 비싼 학습용 GPU가 중심이었어요. 하지만 생성형 AI가 본격적으로 서비스로 활용되면서 상황이 바뀌고 있어요. 방대한 데이터로 모델을 훈련시키는 ‘학습’ 단계와, 훈련된 모델이 실제 사용자의 질문에 답변하는 ‘추론’ 단계가 명확히 구분되기 시작했죠.
엔비디아는 이 변화에 발맞춰 차세대 AI 슈퍼컴퓨터 ‘베라루빈’ 시스템에서 GPU와 LPU를 함께 사용하기로 했어요. 루빈 GPU는 무거운 데이터 학습 및 복잡한 연산을, 그록3 LPU는 사용자의 질문에 빠르고 즉각적인 답변을 내는 추론 작업을 전담하게 됩니다. 이렇게 역할을 나누면 조 단위의 거대 AI 모델도 답변 속도가 최대 35배나 빨라지고 운영 비용은 크게 줄어든다고 해요.
GPU와 LPU의 기술적 차이점
GPU는 학습과 추론 모두를 처리하는 범용 반도체라면, LPU는 추론에만 특화된 칩이에요. 추론 작업은 빠른 데이터 전송을 통해 결과를 도출하는 것이 핵심이지, 학습처럼 엄청난 양의 자료를 무한히 해석할 필요가 없어요. 그래서 LPU는 기술적으로 근본적인 차이를 가지는데, 그 핵심은 ‘메모리’에 있어요.
기존 GPU가 HBM(고대역폭 메모리)을 사용한다면, 그록의 LPU는 온칩 SRAM을 활용해요. HBM에서 데이터를 가져오는 것보다 온칩 SRAM에서 가져오는 속도가 약 20배나 빠르다고 하죠. 이는 KV 캐시(Key-Value Cache)라는 기술과 연결되는데, 트랜스포머 기반 AI 모델이 문장을 생성할 때 이전 계산 결과를 빠르게 불러오는 데 SRAM이 결정적인 역할을 합니다.
한 개의 그록3 LPU 칩에는 500MB의 SRAM이 탑재되고, 하나의 서버 랙에 8개 칩이 들어가 총 4GB의 SRAM을 사용하게 돼요. 이로 인해 달성하는 대역폭은 어마어마한 1200TB/s 수준이에요. 비용은 높겠지만, 속도와 효율 면에서는 기존 방식을 압도하는 성능이죠.
삼성전자에게 주는 의미 메모리에서 파운드리까지
이번 GTC 발표는 삼성전자에게 한 번에 두 개의 선물을 안겨준 셈이에요. 첫째는 파운드리 사업의 중대한 돌파구이고, 둘째는 메모리 사업의 기술력을 재확인하는 계기였어요.
파운드리 사업의 새로운 가능성
최근까지 삼성전자 주가를 짓누르는 요인 중 하나는 파운드리 대형 수주 계약의 부재였어요. 하지만 엔비디아의 그록3 LPU 생산 계약은 그 가뭄에 단비 같은 소식이에요. 이 계약을 시작으로 글로벌 빅테크 기업들이 삼성 파운드리에 더 많은 주문을 고려할 수 있는 선례가 마련되었어요. TSMC 독점 구조에 균열을 내고 삼성전자가 제2의 파운드리 공급처로 자리매김할 수 있는 중요한 디딤돌이 될 거예요.
HBM 기술력의 동시 확보
GTC 2026에서는 차세대 고대역폭 메모리인 HBM4E의 실물 칩도 공개되었어요. 삼성전자는 지난달 세계 최초로 6세대 HBM4 양산 출하에 성공했고, 7세대 개발까지 공개하며 HBM 시장에서의 기술력을 유감없이 보여줬죠. 결국 엔비디아의 최첨단 AI 시스템은 ‘두뇌’에 해당하는 연산 칩을 삼성 파운드리에서, ‘기억력’에 해당하는 고성능 메모리를 삼성 메모리에서 공급받는 토탈 솔루션 파트너십이 형성되고 있는 거예요. 일각에서는 삼성의 HBM 기술력이 SK하이닉스와의 격차를 좁히고 오히려 앞서나가고 있다는 평가도 나오고 있어요.
참고자료: 삼성 파운드리, 그록(Groq) 웨이퍼 67% 증산… 엔비디아 ‘SRAM 추론 칩’ 공개 임박
앞으로의 시장 전망과 주목할 점
AI 에이전트 시대가 본격화되면서 토큰 사용량이 폭발적으로 증가하고 있어요. 이는 하드웨어의 발전을 부르는 직접적인 동력이 되고 있죠. 엔비디아가 매년 새로운 AI 칩 계획을 발표하며 왕좌를 굳건히 하고 있는 만큼, 이 생태계에 참여하는 삼성전자의 역할도 점점 더 중요해질 전망이에요.
투자 관점에서 바라보기
엔비디아는 단순 GPU 설계 회사에서 AI 생태계 전체를 아우르는 플랫폼 기업으로 변모하고 있어요. ‘블랙웰 → 루빈 → 루빈 울트라 → 파인만’으로 이어지는 로드맵은 그들의 야심을 보여줘요. 삼성전자는 이런 엔비디아의 성장 스토리에서 핵심 파트너로 부상하고 있어요. 그록과의 기존 협력 관계를 바탕으로, 엔비디아 인수 후에는 웨이퍼 주문량을 67%나 확대해 달라는 요청을 받은 점에서도 그 중요성을 알 수 있어요.
앞으로 외국인과 기관 투자자들의 자금이 삼성전자로 어떻게 흘러들어올지, 그리고 이번 계약이 하반기 실적에 어떤 긍정적인 영향을 줄지 지켜볼 필요가 있어요. 단기적으로는 지속되고 있는 지정학적 불안 요인(예: 미국-이란 간 긴장)이 해결되는 것이 추가적인 상승 탄력을 받는 데 도움이 될 거예요.
기술적 변화의 속도
이번 발표에서 가장 인상적인 점은 트랜스포머 연산이 이제 ‘Prefill’과 ‘Decoding’으로 나뉘고, Decoding에서도 ‘Attention 연산’과 ‘FFN(Feed-Forward Network) 부분’이 분리되었다는 거예요. FFN 부분을 처리하는 데 바로 LPU가 사용되고, 이 칩을 삼성전자가 만들게 된 거죠. 세상이 정말 빠르게 변하고 있어요. 머지않아 개인용 AI 비서 시스템이 일상이 되는 날도 머지않은 것 같아요.
참고자료: 엔비디아가 인수한 groq의 LPU, 어떤 원리로 동작할까? HBM대신 SRAM을 사용한 추론형 칩
요약과 마무리하며
지금까지 GTC 2026에서 발표된 삼성전자의 그록3 LPU 생산 계약과 그 의미를 자세히 알아봤어요. 핵심을 정리하면 다음과 같아요. 첫째, 엔비디아가 AI 추론 시장을 선점하기 위해 그록의 LPU 기술을 삼성 파운드리에서 생산하기로 했고, 이는 삼성에게는 파운드리 사업의 새로운 전기가 되었어요. 둘째, AI 반도체 시장의 중심이 학습에서 추론으로 이동하면서, HBM 대신 고속 SRAM을 사용하는 전용 칩의 중요성이 커지고 있어요. 셋째, 삼성전자는 이번 기회로 파운드리와 메모리 사업에서 동시에 경쟁력을 입증하며 엔비디아의 토털 AI 파트너로 부상하고 있어요.
앞으로의 시장을 지켜보며, 한국 반도체 산업의 미래가 ‘학습’이 아닌 ‘추론’ 시장에서 어떻게 경쟁력을 발휘할지가 관건이 될 거예요. 삼성전자의 이번 도전이 성공적으로 자리 잡아, 한국 반도체의 새로운 가능성을 보여주는 계기가 되길 바라봐요.
