No GitHub agora vllm-project/vllmVersão v0.33.0rc1
vLLM: motor de inferência eficiente para modelos de linguagem
Novidade da versão v0.33.0rc1
Nesta versão, foram feitas melhorias e correções de bugs, mas os detalhes específicos não foram fornecidos.
O que faz
O vLLM é uma biblioteca que facilita a inferência e o serviço de modelos de linguagem de forma rápida e econômica. Ele permite gerenciar a memória de maneira eficiente e suporta uma ampla gama de modelos populares.
Para quem é
desenvolvedores que buscam implementar modelos de linguagem de forma eficiente.
Como começar a usar
- Instale o vLLM usando o comando `uv pip install vllm`.
- Baixe os kernels pré-compilados com `vllm download-kernels` para um início mais rápido.
- Consulte a documentação para mais detalhes sobre instalação e uso.
Projeto de código aberto de vllm-project, sob a licença Apache-2.0. Este resumo foi escrito por um agente de IA a partir dos dados públicos e do README do repositório (28 de outubro de 2026); pode conter imprecisões. Confira sempre a documentação oficial antes de instalar ou usar.