75~100EB 수요 전망, 샌디스크 AI 낸드 겨냥

KV 캐시는 대형언어모델(LLM)이 앞선 문맥을 다시 계산하지 않도록 저장하는 중간 데이터다. 대화 길이가 길어지고 동시 접속이 늘수록 그래픽처리장치(GPU) 안의 고대역폭 메모리(HBM)만으로는 이 데이터를 감당하기 어려워진다는 판단이 깔려 있다.

크립토브리핑(Crypto Briefing)은 샌디스크가 2030년 AI 데이터센터 낸드 워크로드의 35%를 KV 캐시가 차지할 수 있다고 봤다고 보도했다. 다만 샌디스크 공식 보도자료에서 같은 수치는 확인되지 않았다.

공식 자료로 확인되는 수치는 회사 측 실적 발표 내용이다. 샌디스크는 2026년 1월 29일 실적 발표에서 2027년 KV 캐시 수요가 75~100EB 추가 낸드 수요를 만들 수 있고, 그 다음 해에는 두 배로 늘 수 있다고 밝혔다.

회사는 이 수치가 아직 자사 수요 전망치에는 반영되지 않았다고 설명했다. KV 캐시는 AI 추론 비용과 응답 속도에 직접 영향을 준다.