이 태그가 붙은 글 1편입니다. 전체 태그 보기
Cerebras가 prefill과 decode를 분리하는 disaggregated inference 기법으로 같은 하드웨어에서 처리량을 5배로 늘렸다고 설명하는 블로그 연재를 시작했습니다.