블랙박스 대규모 언어 모델에서 지식 증류(Knowledge Distillation) 기법이 연구되었습니다. 이 연구는 모델의 지식을 더 작은 모델로 효과적으로 전달하는 방법을 다룹니다. 이는 모델의 효율성과 성능을 개선하는 데 중점을 둡니다.