24HourWire

AI 인프라도 ‘가성비’ 바람… HBM 대신 스마트폰 메모리, GPU 대신 CPU

인공지능(AI) 인프라 시장에서 ‘가성비’ 경쟁이 확대되고 있다. 이미 학습한 모델로 답변을 생성하는 추론 수요가 급증하면서 장비값과 전력·냉각 비용을 줄이는 것이 중요해진 여파다. 추론용 가속기에 고가의 고대역폭 메모리(HBM) 대신 스마트폰용 저전력 D램(LPDDR)을 탑재하거나, 일부 AI 모델을 그래픽처리장치(GPU) 대신 중앙처리장치(CPU)로 …