OpenAI의 Jalapeño 칩은 대규모 추론에 최적화되어 최고 성능을 보였다
OpenAI의 Jalapeño 칩은 대규모 추론에 최적화되어 최고 성능을 보였습니다. SemiAnalysis의 InferenceX 벤치마크 테스트 결과, Jalapeño는 사용자당 더 많은 토큰과 킬로와트당 더 많은 처리량을 기록했습니다. 이는 현재 사용 가능한 최첨단 기술보다 높은 성능을 나타냅니다.
댓글
0개
첫 댓글을 남겨보세요.