Avete provato a fare girare LLM in locale? Esperienze con Ollama

Ho installato Ollama sul mio MacBook M2 Pro e sono rimasto sorpreso dalla qualità di Llama 3.1 8B per task semplici. Per la privacy del lavoro è una soluzione interessante. Voi ci avete giocato?