AI가 드디어
돈을 버는 현장으로
들어갔습니다:
생산 전환·온프레미스·공급망
닷컴 버블 때는 '.com'만 붙으면 주가가 올랐어요. 이번엔 다릅니다. 영수증이 나오고 있거든요. 어디서, 어떻게 나오는지 같이 확인해 볼게요.
AI가 드디어 돈을 버는 현장으로 들어갔어요
닷컴 버블 때와 결정적으로 다른 점이 하나 있어요. 이번엔 영수증이 나오고 있습니다.
닷컴 버블 때는 "우리도 홈페이지 만들었어요"가 주가를 움직이는 시대였습니다. 실제 매출이 없어도 '.com'만 붙으면 투자금이 몰렸고, 결국 대부분은 흔적도 없이 사라졌어요. 제가 직접 그 과정을 지켜봤기 때문에, AI 뉴스를 볼 때마다 "이번엔 뭐가 다르지?"라는 질문을 먼저 던지게 됩니다.
이번 대담에서 저의 눈을 번쩍 뜨이게 한 숫자가 있었어요. 델이 단 한 분기에 AI 팩토리 신규 고객사를 1,000곳 추가해서 누적 5,000곳을 확보했다는 부분입니다. AI 팩토리란 GPU 서버를 대규모로 집적해 AI를 학습하고 추론하는 전용 인프라 시설이에요. 단순히 "AI 써볼까" 수준이 아니라, 건물 한 동을 통째로 AI 연산에 투자하는 결정을 내린 기업이 5,000곳이라는 의미입니다.
일라이 릴리(Eli Lilly)는 수천 개의 GPU를 투입해 신약 후보 물질 도출 속도를 끌어올리고 있고, 삼성전자는 반도체 수율 관리에 AI를 실전 투입했어요. 이렇게 제조 현장에서 원가 절감과 생산성 향상의 영수증이 나오기 시작하면 "ROI가 불분명하다"는 비판은 힘을 잃습니다.
에이전트 AI(Agentic AI)의 등장도 이 흐름을 가속화하고 있어요. 에이전트 AI는 단순히 텍스트를 생성하는 것을 넘어, 스스로 판단하고 도구를 사용하며 업무를 수행하는 AI입니다. 챗GPT가 '글을 써주는 도구'였다면, 에이전트 AI는 '실제로 일을 처리하는 직원'에 가까워요. 이 변화가 기업들의 자본 지출 방향을 바꾸고 있습니다.
1,000개 신규 고객사가 실제로 서버를 풀가동하고 있는지, 아니면 일단 발주만 넣은 상태인지는 다음 어닝 시즌의 숫자가 말해줄 거예요. 제 경험상 이런 대형 발표 직후에는 기대가 먼저 달리고, 숫자는 2~3분기 뒤에 따라옵니다.
클라우드가 대세였는데 왜 온프레미스 수요가 다시 폭발할까요?
이건 클라우드와의 경쟁이 아니에요. AI가 다루는 데이터의 성격이 달라진 거예요.
온프레미스란 기업이 데이터를 클라우드가 아닌 자사 건물 내부 서버에서 직접 처리하는 방식이에요. 클라우드가 대세가 된 지 10년이 넘었는데, 왜 지금 다시 온프레미스 수요가 폭발하고 있을까요?
"지능은 맥락이 발생하는 바로 그 자리에서 만들어져야 한다."
반도체 설계도, 금융 거래 데이터, 고객 의료 정보 같은 것들은 클라우드에 올리는 순간 보안 리스크에 노출됩니다. AI 에이전트가 이 데이터를 다루게 하려면, 그 AI가 자사 서버 안에서 돌아가야 한다는 결론이 나와요. 제가 직접 기업 IT 담당자들과 이야기해 봐도 이 부분이 AI 도입 의사결정의 가장 큰 걸림돌이었습니다. 기술 문제가 아니라 보안과 규정 준수 문제였어요.
엔비디아와 델이 함께 구축한 하네스(Harness) 시스템이 이 수요를 정확히 겨냥합니다. AI가 기업 내부 자원을 디지털 로봇처럼 쓸 수 있게 해주는 안전장치이자 제어 시스템이에요. 쉽게 말해 AI 직원을 안전하게 사내에 고용하는 방법이 생긴 겁니다.
AI 하면 GPU만 떠올리기 쉬운데, 수천억 개의 에이전트가 동시에 돌아가려면 그 옆에서 명령을 처리하는 CPU 수요도 함께 폭발해요. 엔비디아의 베라(Vera) CPU가 이 시장을 겨냥하고 있다는 점은 반도체 공급망 전체가 재편되고 있다는 신호로 읽힙니다.
GPU만 보지 말고 CPU, 메모리, 네트워킹 칩까지 공급망 전체를 함께 봐야 해요.
- 온프레미스 AI 인프라 수주 공시를 추적하세요. 대기업을 넘어 중소기업으로 확산되는 시점이 수요 임계점에 도달했다는 신호예요
- 델·HPE의 분기 AI 서버 수주 잔고(백로그)를 확인하세요. 주문이 쌓이는 속도가 온프레미스 수요 강도를 직접 보여줍니다
- 엔비디아 베라 CPU 출하 일정을 추적하세요. GPU + CPU 패키지 수요가 본격화되는 시점이 공급망 업그레이드 사이클의 시작이에요→ investor.nvidia.com
HBM 3~4년 전 선점의 의미: 이건 운이 아니에요
젠슨 황은 마이크론·SK하이닉스 CEO들에게 수년 전에 지금의 수요 시나리오를 미리 제시했습니다.
젠슨 황은 마이크론과 SK하이닉스의 CEO들에게 수년 전에 이미 지금의 AI 수요 시나리오를 제시하고 로드맵을 동기화했다고 밝혔어요. HBM(High Bandwidth Memory)이 그 결과물입니다. HBM이란 GPU가 데이터를 초고속으로 처리할 수 있도록 메모리를 수직으로 쌓아 올린 고대역폭 메모리 기술로, AI 연산의 병목을 해소하는 핵심 부품이에요.
엔비디아가 이 공급망을 3~4년 전부터 선점해 놨다는 사실은 단순한 운이 아닙니다. 수요를 먼저 설계하고, 그 수요에 맞춰 공급망을 미리 조율해 놓은 거예요. 경쟁사가 따라잡으려면 최소 3~5년이 필요한 구조적 해자가 이미 형성되어 있습니다.
반도체 경기가 원래 호황·불황을 오가는 사이클 구조라는 점은 맞아요. 하지만 AI 인프라 구축은 전 세계 90조 달러 규모의 제조 산업이 디지털 에이전트와 물리적 로봇으로 전환되는 과정과 맞닿아 있습니다. 과거의 반도체 사이클은 "사람들이 PC·스마트폰을 더 많이 사는가"에 달려 있었는데, 이번은 "전 세계 공장이 AI로 재설계되는가"에 달려 있어요. 성격이 다릅니다.
10년짜리 구조적 변화라면 서두를 이유가 없어요. 오히려 서두르는 게 더 비쌀 수 있습니다.
지금 당장 추격 매수보다 이 조건들을 기다리세요
메가 트렌드가 맞다고 확신하더라도, 대중이 흥분해서 몰려드는 시점이 고점일 확률이 높다는 게 오랜 투자 경험이 가르쳐 준 가장 확실한 교훈이에요.
- 엔비디아 IR에서 베라 루빈·베라 CPU 출하 일정과 수주 백로그를 확인하세요. 가이던스 상향이 실제 매출로 연결되는 속도가 핵심이에요→ investor.nvidia.com
- SK하이닉스·마이크론 분기 실적에서 HBM ASP(평균판매단가) 방향을 확인하세요. 공급 부족이 유지되는 한 ASP는 내려가지 않습니다
- 미국 반도체산업협회(SIA) 자료에서 미국 본토 팹 투자 현황을 추적하세요. 재산업화 속도가 지정학 리스크 프리미엄 해소의 타임라인을 결정합니다→ semiconductors.org
흥분을 가라앉히고 시나리오를 세워두는 시간입니다
오랫동안 투자해오면서 배운 가장 확실한 교훈은 이거예요. 메가 트렌드가 맞다고 확신하더라도, 대중이 흥분해서 몰려드는 시점이 고점일 확률이 높습니다. 닷컴 버블 때도 인터넷 혁명 자체는 맞았어요. 다만 타이밍이 틀렸고, 그 대가는 컸습니다.
AI 인프라 구축이 아직 시작 단계라는 건 맞아요. 하지만 지금 당장 추격 매수를 서두르기보다, 중국향 수출이 실제 매출로 전환되는 시점, 온프레미스 수주가 중소기업으로 확산되는 시점을 냉정하게 기다리는 포지션이 더 합리적이에요. 10년짜리 구조적 변화라면 서두를 이유가 없습니다.
지금은 흥분을 가라앉히고 시나리오별 대응 기준을 세워두는 시간이에요. 준비된 사람이 기회가 왔을 때 가져가는 거지, 흥분한 사람이 가져가는 게 아니라는 걸 저는 수십 년의 경험으로 알고 있습니다.