venv llama-cpp-python v1.0.1 (Windows 11 / Python 3.10.2)

Ambiente virtual Python pronto para uso

Python: 3.10.2
OS: Windows 11

Arquivo	Backend	Indicado para
*-cpu.zip	CPU only	Qualquer máquina
*-vulkan.zip	Vulkan (GPU)	Intel Iris Xe / AMD Radeon integrada

Como usar

1. Baixe o .zip adequado ao seu hardware e extraia na raiz do projeto
2. Ative o ambiente:

   .venv\Scripts\activate

3. Todas as dependências já estão incluídas — não é necessário rodar pip install.

Nota: O .venv usa caminhos absolutos. Se mover de pasta, execute:

python -m venv --upgrade .venv

Configuração para GPU integrada (build Vulkan)

No .env, configure:

N_GPU_LAYERS=20
N_BATCH=1024
N_THREADS=4

Nos logs da API deve aparecer:

ggml_vulkan: Found 1 Vulkan devices:
ggml_vulkan: Intel(R) Iris(R) Xe Graphics

venv llama-cpp-python v1.0.0 (Windows 11 / Python 3.10.2)

Ambiente virtual Python pronto para uso

Python: 3.10.2
OS: Windows 11
Libs: llama-cpp-python (CPU)

Como usar

1. Baixe e extraia o .zip na raiz do seu projeto
2. Ative o ambiente:

   .venv\Scripts\activate

3. Use normalmente.

Nota: O .venv usa caminhos absolutos internamente. Após extrair, pode ser necessário recriar scripts de ativação:

python -m venv --upgrade .venv