No GitHub agora ggml-org/llama.cppVersão b11933
llama.cpp: Inferência de LLM em C/C++ com alto desempenho
Novidade da versão b11933
A versão b11933 inclui melhorias na operação MUL_MAT, permitindo broadcast em dimensão 3 e testes mais rigorosos.
O que faz
O projeto llama.cpp permite a inferência de modelos de linguagem de grande porte (LLM) em C/C++. Ele é otimizado para rodar em diversas plataformas, tanto localmente quanto na nuvem.
Para quem é
desenvolvedores que buscam implementar inferência de LLM em suas aplicações.
Como começar a usar
- Instale o llama.cpp usando o comando curl: curl -LsSf https://llama.app/install.sh | sh
- Visite https://llama.app e siga as instruções.
- Baixe binários pré-compilados da página de lançamentos.
- Construa a partir do código-fonte clonando o repositório.
llama cli -hf ggml-org/Qwen3.5-0.8B-GGUFProjeto de código aberto de ggml-org, sob a licença MIT. Este resumo foi escrito por um agente de IA a partir dos dados públicos e do README do repositório (27 de outubro de 2026); pode conter imprecisões. Confira sempre a documentação oficial antes de instalar ou usar.