TurboPrefill: 2.7× faster than llama.cpp Pipeline Parallel on Llama-3-70B(github.com)
1 pointby trykhlieb2 hours ago1 comment
  • 2 hours ago
    undefined