Skip to content

API.md

Latest commit

 

History

History
131 lines (108 loc) · 2.71 KB

API.md

File metadata and controls

131 lines (108 loc) · 2.71 KB
Raw

Ollama REST API — riferimento rapido

Base URL: http://localhost:11434

Modelli

Lista modelli scaricati

GET /api/tags

curl http://localhost:11434/api/tags

Scarica (o aggiorna) un modello

POST /api/pull

curl -X POST http://localhost:11434/api/pull \
  -d '{"name": "llama3:8b"}'

Aggiungere "stream": false per risposta sincrona.

Rimuovi un modello

DELETE /api/delete

curl -X DELETE http://localhost:11434/api/delete \
  -d '{"name": "llama3:8b"}'

Copia un modello (rinomina / alias)

POST /api/copy

curl -X POST http://localhost:11434/api/copy \
  -d '{"source": "hf.co/unsloth/medgemma-4b-it-GGUF:Q4_K_M", "destination": "mio-modello"}'

Informazioni su un modello

POST /api/show

curl -X POST http://localhost:11434/api/show \
  -d '{"name": "hf.co/unsloth/medgemma-4b-it-GGUF:Q4_K_M"}'

Modelli in esecuzione (in memoria)

GET /api/ps

curl http://localhost:11434/api/ps

Inferenza

Chat (formato OpenAI-compatible)

POST /api/chat

curl -X POST http://localhost:11434/api/chat \
  -d '{
    "model": "hf.co/unsloth/medgemma-4b-it-GGUF:Q4_K_M",
    "messages": [
      {"role": "user", "content": "Quali sono i sintomi del diabete di tipo 2?"}
    ],
    "stream": false
  }'

Da Windows Powershell

curl -X POST http://localhost:11434/api/chat -H "Content-Type: application/json" -d "{\"model\":\"hf.co/unsloth/medgemma-4b-it-GGUF:Q4_K_M\",\"messages\":[{\"role\":\"user\",\"content\":\"Quali sono i sintomi del diabete di tipo 2?\"}],\"stream\":false}"

Generate (completamento testo grezzo)

POST /api/generate

curl -X POST http://localhost:11434/api/generate \
  -d '{
    "model": "hf.co/unsloth/medgemma-4b-it-GGUF:Q4_K_M",
    "prompt": "Spiega brevemente l'\''ipertensione.",
    "stream": false
  }'

Embeddings

POST /api/embeddings

curl -X POST http://localhost:11434/api/embeddings \
  -d '{"model": "hf.co/unsloth/medgemma-4b-it-GGUF:Q4_K_M", "prompt": "testo da embeddare"}'

Health check

GET /api/tags          → 200 OK se il server è up

Cambiare modello di default a runtime

Per caricare un modello diverso in memoria senza riavviare il container:

# Scarica il nuovo modello
curl -X POST http://localhost:11434/api/pull -d '{"name": "llama3:8b"}'

# Scaricalo dalla memoria (keep_alive=0) e carica il nuovo
curl -X POST http://localhost:11434/api/generate \
  -d '{"model": "hf.co/unsloth/medgemma-4b-it-GGUF:Q4_K_M", "prompt": "", "keep_alive": 0}'

curl -X POST http://localhost:11434/api/generate \
  -d '{"model": "llama3:8b", "prompt": "", "keep_alive": -1}'