"AI 인프라, 이제는 효율성 경쟁" 인텔의 선언
최근 AI 업계의 흐름이 심상치 않습니다. 무조건 더 좋은 GPU, 더 많은 하드웨어를 확보하려는 경쟁에 제동이 걸리는 듯한 목소리가 나왔기 때문입니다. 바로 인텔의 아닐 난두리(Anil Nanduri) AI 제품 담당 부사장의 발언에서 시작된 변화의 신호입니다.
보도에 따르면, 그는 "단순히 더 많은 연산 자원을 투입하던 방식은 이제 더 이상 지속 불가능하다"고 언급하며, AI 인프라 시장이 성능 경쟁에서 효율 경쟁으로 이동하고 있다고 진단했습니다. 이는 AI 기술을 도입하려는 기업들에게 매우 중요한 시사점을 던집니다.
복잡하게 얽혀있는 현대 데이터센터의 AI 인프라
성능보다 '총소유비용(TCO)'이 중요해진 이유
왜 갑자기 '효율'이 화두로 떠올랐을까요? 이유는 간단합니다. AI 모델을 운영하는 데 들어가는 비용이 천문학적으로 증가했기 때문입니다. 초기에는 AI 성능 자체에만 집중했지만, 막상 운영해보니 숨겨진 비용이 만만치 않았던 것입니다.
체크포인트: AI 인프라의 숨겨진 비용
- 전력 및 냉각 비용: 고성능 GPU는 엄청난 양의 전기를 소비하고, 막대한 열을 발생시킵니다. 이를 감당하기 위한 데이터센터의 전력 및 냉각 설비 비용이 급증하고 있습니다.
- GPU 공급 부족 및 가격 상승: 수요가 폭발하며 GPU 가격이 치솟고 구하기도 어려워졌습니다. 하드웨어 구매 비용 자체가 큰 부담이 되었습니다.
- 데이터센터 전체 효율: GPU만 좋다고 끝나는 게 아닙니다. CPU, 메모리, 네트워크 등 다른 자원과의 병목 현상 없이 전체 시스템이 조화롭게 작동해야 진짜 효율이 나옵니다.
이러한 문제들로 인해 기업들은 이제 초기 구매 비용뿐만 아니라 5년, 10년을 내다보는 총소유비용(Total Cost of Ownership, TCO) 관점에서 AI 인프라를 바라보기 시작했습니다. 아닐 난두리 부사장의 발언은 바로 이 지점을 정확히 짚은 것으로 보입니다.
인텔 AI 전략의 방향: CPU와 가속기의 공존
그렇다면 인텔의 해법은 무엇일까요? GPU 만능주의에서 벗어나, 다양한 작업을 효율적으로 처리하는 '이기종 컴퓨팅' 구조를 제시합니다.
특히 최근 주목받는 '에이전틱 AI(Agentic AI)' 환경에서는 GPU의 역할뿐만 아니라 CPU의 중요성이 다시 부각되고 있습니다. AI 에이전트가 생성한 코드를 실행하고, 검증하며, 여러 작업을 조율(Orchestration)하는 역할은 CPU가 더 효율적이기 때문입니다.
이기종 컴퓨팅, 하드웨어와 소프트웨어의 최적화
이런 흐름에 맞춰 인텔은 다음과 같은 제품 라인업으로 시장을 공략할 것으로 보입니다.
- 제온6+ 프로세서: 에이전틱 AI의 조율과 제어에 최적화된 차세대 데이터센터용 CPU입니다.
- 가우디(Gaudi) 3 AI 가속기: 엔비디아의 대안으로 떠오른 AI 가속기로, 가격 경쟁력과 TCO 절감을 강점으로 내세웁니다. 일부 성능 테스트에서는 엔비디아 H100을 능가하는 결과를 보여주기도 했습니다.
- 크레센트 아일랜드(Crescent Island) GPU: AI 추론 연산에 특화된 GPU로, 비싼 HBM 메모리 대신 LPDDR5X 메모리를 사용해 비용 효율성을 극대화한 제품입니다.
결국 인텔의 전략은 CPU, GPU, 특화 가속기를 묶어 데이터센터 전체의 효율을 최적화하는 시스템 단위 접근법이라 할 수 있습니다.
앞으로 주목해야 할 변수
AI 인프라 시장은 이제 새로운 국면을 맞이했습니다. 앞으로는 단순히 칩 하나의 성능 수치만 비교하는 것을 넘어, 특정 작업(Workload)에 얼마나 최적화되어 있는지, 전체 시스템의 TCO를 얼마나 절감할 수 있는지가 핵심 경쟁력이 될 것입니다. 인텔의 이러한 '효율성' 중심 전략이 엔비디아가 주도하는 시장에 어떤 변화를 가져올지 지켜보는 것이 중요합니다.
자주 묻는 질문
아닐 난두리(Anil Nanduri)는 누구인가요?
아닐 난두리는 인텔의 AI 비즈니스 유닛을 이끄는 리더십 팀의 일원으로, AI 제품 관리 및 시장 출시 전략(GTM)을 총괄하는 부사장(VP)입니다. 인텔의 AI 가속기 및 GPU 사업 확장을 주도하는 핵심 인물 중 한 명입니다.
총소유비용(TCO)이 왜 중요한가요?
TCO는 단순히 하드웨어 구매 비용만을 의미하지 않습니다. 전력 소비, 냉각, 유지보수, 인력 등 인프라를 소유하고 운영하는 데 드는 모든 비용을 포함하는 개념입니다. AI 데이터센터처럼 막대한 자원이 투입되는 경우, 초기 구매 비용보다 운영 비용이 훨씬 클 수 있기 때문에 TCO를 기준으로 효율성을 판단하는 것이 합리적입니다.
인텔은 엔비디아와의 경쟁을 포기하는 건가요?
포기하는 것이 아니라 경쟁의 방식을 바꾸는 것으로 해석됩니다. 모든 영역에서 엔비디아와 똑같이 경쟁하기보다, '효율성'과 '개방형 생태계', 'TCO 절감'이라는 다른 가치를 내세워 시장의 빈틈을 공략하려는 전략으로 보입니다. 특히 기업용 AI 시장과 추론(Inference) 시장에서 영향력을 확대하려는 움직임이 뚜렷합니다.
한 줄 요약: 인텔 AI 전략의 핵심은 '얼마나 강력한가'에서 '얼마나 효율적인가'로 바뀌고 있습니다.