‘KV 캐시’ 키워드 기사 2건
엑시나, OCP 서밋서 CXL 기반 AI 추론 메모리 솔루션 시연
팹리스 기업 엑시나가 OCP 글로벌 서밋 2026에서 CXL 기반 메모리 솔루션 ‘MX1’을 활용한 AI 추론 기술을 공개했다. SK하이닉스와 협력하여 다중 서버의 KV 캐시 공유, 벡터 검색 가속 등 메모리 효율성을 높이는 데모를 시연했으며, 삼성전자와도 분리형 CX…
2026.10.16 by 배종인 기자
SK하이닉스, SEDEX 2026서 차세대 메모리 계층 최적화 전략 공개
SK하이닉스는 SEDEX 2026에서 AI 추론 시장 확대에 따른 새로운 메모리 병목 문제를 진단하고 해결 전략을 공개했다. AI 워크로드에서 KV 캐시 처리로 인한 메모리 계층 간 데이터 이동이 성능 저하의 주요 요인임을 밝히고, HBM 고도화와 함께 HBF, 3D …
2026.10.14 by 배종인 기자