메모리 점유율을 최소 6분의 1(약 83%) 수준으로 줄이며 기존 기술 대비 6배의 효율을 제공

[최보식의언론=김진안 전 삼성전자 중동구 지역장 전무]

자료사진
자료사진

3월 24일, 구글이 메모리 반도체 사용을 획기적으로 줄이는 ‘터보 퀀트(Turbo Quant)’ 기술을 발표하면서 반도체 시장은 큰 충격에 휩싸였다.

터보 퀀트는 AI 모델이 답변을 생성할 때 문맥을 유지하기 위해 사용하는 임시 저장 공간인 KV 캐시(Key-Value Cache)를 획기적으로 압축하는 기술이다.

이 기술이 메모리 점유율을 최소 6분의 1(약 83%) 수준으로 줄이며 기존 기술 대비 6배의 효율을 제공한다. 예를 들어 16비트 데이터를 3비트 수준까지 압축하면서도 정확도 손실이 거의 없다는 것이다.

연산처리 속도는 8배 향상된다. 엔비디아 H100 GPU 환경에서 어텐션(Attention) 연산 속도를 최대 8배까지 높여 추론 효율을 극대화시켜 준다. 터보 퀀트 기술은 소프트웨어 최적화를 통해 하드웨어의 한계를 극복하려는 시도다. 즉, 메모리 병목을 해결해 AI(인공지능) 효율성을 극대화하는 알고리즘이라 할 수 있다.

이 기술은 별도의 추가 학습(Fine-tuning)이나 모델 재훈련 없이 기존 LLM(Gemma, Mistral 등)에 바로 적용할 수 있는 '드롭인(Drop-in)' 방식이다. 빠르면 올 하반기부터 구글의 제미나이에 적용된다고 한다.

AI 붐으로 메모리 반도체 수요가 폭증하는 가운데 이 같은 기술이 조기에 확산될 경우, 메모리 수요가 급격하게 줄어들게 되고 최근의 HBM 슈퍼사이클이 조기에 끝날 수 있다는 우려를 하고 있다.

이러한 우려를 시장은 즉각적으로 반영했다. 구글이 터보 퀀트 기술을 발표한 다음 날인 3월 26일, 삼성전자는 4.7%, SK하이닉스는 6.2% 급락하며 시장의 공포를 반영했다. 미국 마이크론 또한 3% 이상 하락하며 전 세계 메모리주가 동반 약세를 보였다.

단기적으로는 메모리 수요가 감소된다는 우려가 있지만 구글이 터보 퀀트 기술을 오픈소스로 공개하면서 모든 AI기업들에 기회를 제공하고 있다. 장기적으로는 테크기업들의 AI운영 비용이 낮아지며 더 길고 복잡한 문맥을 저렴한 비용으로 처리하는 AI 서비스를 대거 출시하게 되는 기회가 올 수 있는 것이다. 이는 역설적으로 결국 전체적인 서버 증설과 메모리 수요 폭발로 이어질 수 있어 '제번스의 패러독스'가 작동한다.

제번스의 패러독스(Jevons' Paradox)란 효율이 좋아지면 수요가 줄어드는 것이 아니라, 비용 감소로 인해 AI 서비스가 폭발적으로 늘어나면서 오히려 더 많은 메모리가 필요하게 된다는 관점을 말한다.

스마트폰을 예로 들면 기존에는 메모리 제약으로 인해 스마트폰에 올리기 힘들었던 고성능 LLM(거대언어모델)을 터보퀀트로 압축하여 갤럭시 신모델에 직접 탑재할 수 있다. 메모리 6배 절감 및 속도 8배 향상 기술이 접목되며 개인용 AI슈퍼컴퓨터가 탑재된 갤럭시 핸드폰이 탄생할 수 있다. 핸드폰은 스마트폰에서 슈퍼컴퓨터 스마트폰으로 다시 진화하는 것이다. 그러면 스마트폰의 수요가 폭증하며 고성능 메모리시장에 기회가 된다. 이런 식으로 새로운 AI수요가 전 업계로 확산되면 메모리시장이 오히려 늘어날 것으로 보는 것이다.

기술혁신이 이루어지면 항상 그랬듯이 과거의 기존 기술에 기반한 수요를 잡아먹고 새로운 수요를 더 큰 규모로 폭발시킨다. 기존 노키아의 아날로그 핸드폰이 애플의 디지털 기반의 스마트폰에 몰락하고 스마트폰 수요는 폭발적으로 증가했다.

구글의 터보 퀀트의 발표로 메모리 시장이 잠시 위축될 수 있지만, 결국 성능을 6배나 개선시키고 원가를 획기적으로 절감시키는 터보 퀀트라는 혁신은 더욱 시장을 성장시키고 더 많은 반도체 수요를 폭발시킨다. 제번스의 패러독스가 적용되는 대표적 사례가 될 것이다.

더구나 구글이 AI의 효율은 늘어나고 원가는 대폭 절감되는 터보 퀀트 기술을 발표했으니 경쟁업체들도 속속 비슷한 기술을 출시할 것이다. GPU의 높은 비용으로 고민하던 테크기업들에 희소식이고 업계로 확산되면 반도체 업계에는 새로운 도약의 기회가 될 것 같다.

 


#터보퀀트 #AI반도체 #제번스패러독스

저작권자 © 최보식의언론 무단전재 및 재배포 금지