AI 반도체 동향

최근 빅테크의 반도체 참전으로 메인 프로세스 CPU 및 GPU의 경계가 허물어지고 있다. 

스마트폰 AP의 강자 퀄컴과 GPU를 대표하는 엔비디아가 지난해 하반기 인텔이 장악하고 있는 CPU 시장 참전을 선언하며 영역을 파괴하는 행보를 보이고 있다. 구글·인텔·메타가 GPU, NPU 새로운 칩 발표가 있었고, MS · 애플은 자체 AI 칩 발표로 이분야의 경쟁은 더욱 치열해지고 있다.

가트너에 따르면 글로벌 AI 반도체 시장은 2022년 약 423억 달러에서 2027년 1,370억 달러로 이 기간 연평균성장률(CAGR) 26.5%의 성장률을 달성할 전망이다. 

 

 

인텔

AI 가속기 ‘가우디3’

• 24년 3분기 중 출시 예고
• 가우디3는 단일 칩, 7나노 공정인 전작 가우디2와 달리 2개의 동일한 실리콘 칩을 하나로 패키징한 형태이며 5나노 공정으로 생산
• 64개의 프로그래밍 가능한 텐서 프로세서 코어(TPC)와 8개 MME(Matrix Multiplication Engine)를 탑재했으며 메모리는 128기가바이트(GB) HBM2e로 대역폭은 3.7TB/s
• 가우디3를 메타의 라마2와 오픈AI GPT-3를 활용해 테스트한 결과, 모델 학습 시간에서 가우디3가 엔비디아 H100 대비 더 빨랐다고 강조
• 2분기 내 델 테크놀로지스, 휴렛팩커드 엔터프라이즈, 레노버, 슈퍼마이크로 등에 가우디3을 공급 예정
• 명확한 가격은 공개하지 않지만 엔비디아 대비 경쟁력 있는 가격에 출시할 계획이라고 언급
• 인텔과 네이버 협업은 ‘가우디’를 토대로 작동하는 오픈 플랫폼 소프트웨어 생태계를 확대한다는 목표하에 공동 재원을 투자해 네이버 사옥에 ‘AI 칩 연구소’ 구축 목표 - 인텔 AI 전문 계열인 하바나랩이 참여하고 네이버는 반도체 설계 연구진이 참여

제온6 CPU

• 24년 2분기 중 성능 중시 작업을 우선한 P-코어 제온6(개발명 그래나이트래피즈)를 먼저 시장에 공급한 후 향상된 AI 성능을 제공하는 E-코어 제온6(개발명 시에라포레스트) 출시 예정 - 두 제품 모두 EUV(극자외선) 기반 공정 ‘인텔 3(4나노)’에서 생산
• P-코어 기반 인텔 제온 6 프로세서는 FP16을 사용하는 4세대 제온에 비해 차세대 토큰 지연시간을 최대 6.5배까지 단축하는 MXFP4 데이터 형식에 대한 소프트웨어 지원을 통합함으로써 700억 개의 파라미터를 가진 라마-2 대규모 언어모델을 실행 가능
• E-코어 기반 인텔 제온 6 프로세서는 2세대 인텔 제온 프로세서 대비 와트당 성능 2.4배, 랙 밀도 2.7배 향상

 

구글

ARM 기반 데이터센터용 CPU 액시온(Axion)

• 액시온은 데이터센터용으로 자체 설계한 ARM 기반 CPU 액시온은 동급의 현세대 x86 CPU보다 최대 50% 상향된 성능과 60% 향상된 에너지 효율성을 갖추었다고 발표
• 웹 서비스나 데이터 분석, 마이크로서비스에서 AI 훈련에 이르기까지 다양한 목적의 범용 인스턴스를 위한 프로세서로, ARM의 최신 Armv9 아키텍처를 사용하는 ‘네오버스(Neoverse) V2’ 기반 설계
• 성능 최적화를 위해 ‘티타늄(Titanium)’ 마이크로컨트롤러를 함께 구성, ‘티타늄’은 클라우드 환경에서 기존에는 프로세서가 처리해야 했던 네트워킹이나 보안, 하이퍼디스크(Hyperdisk) 블록 스토리지 서비스 입출력(I/O) 등을 프로세서 대신 처리해 프로세서와 시스템, 서비스 성능 최적화 가능

AI 전용 반도체 텐서처리장치(TPU) v5p

• AI 반도체 TPU(텐서처리장치)의 새로운 버전
• AI 모델 제미나이 개발을 위해 만들어진 v5p는 거대언어모델(LLM)을 학습시킬 수 있는 최신 칩으로 AI 훈련 속도가 이전보다 3배 증가
• 구글은 이 제품을 탑재한 ‘AI 하이퍼컴퓨터(AI Hypercomputer)’을 구성하고 오픈AI에 맞서 구글의 자체 AI ‘제미나이’를 고도화하겠다는 전략

 

참조: 정보통신기획평가원 AI 반도체 시장 동향