vllmA high-throughput and memory-efficient inference and serving engine for LLMs
Людей на половину изменений
10Низкий риск
Работа распределена: уход одного участника проект не остановит.
| Каталог | Основной автор | Второй | Файлов |
|---|---|---|---|
| vllm/ | Harry Mellor6% | bnellnm 4% | 2585 |
| tests/ | wang.yuqi5% | Andreas Karatzas 4% | 1686 |
| rust/ | Bugen Zhao73% | Tahsin Tunan 4% | 344 |
| docs/ | wang.yuqi18% | Tiezhen WANG 5% | 337 |
| csrc/ | Chris Leonard41% | Jee Jee Li 5% | 284 |
| examples/ | wang.yuqi62% | Aaron Hao 5% | 258 |
| .buildkite/ | Kevin H. Luu20% | Andreas Karatzas 18% | 191 |
| benchmarks/ | Matthew Bonanni29% | Kunshang Ji 9% | 119 |