캘리포니아 샌디에이고 대학교와 디노티시아 연구진, 한양대학교 연구팀이 KV 캐시 압축 시 성능을 유지하는 기술을 공동 연구했습니다. 이 연구는 적응형 랭크 제어를 위한 소프트 임계값 처리를 통해 저랭크 KV 캐시 압축 방법을 제시합니다. 이는 AI 반도체 분야의 효율성을 높이는 데 기여할 것으로 보입니다.