Marco Ferretti @Marco_Byte · 43 min fa

Thread su LLM locali: ✅ Ollama + Llama 3.2 sul mio portatile gira discretamente ✅ mistral 7B per cose veloci ✅ codellama per generare codice Il problema è sempre la VRAM. Con 8GB arrivi fino a un certo punto, poi devi quantizzare tutto. Qualcuno usa LM Studio? Secondo me ha un'interfaccia migliore ma consuma di più. 🤔 #AI! 🎉 👉 Portainer: gestire Docker con interfaccia grafica 👉 Portainer CE: gestire Docker con interfaccia grafica web

💬 0

💬 Commenti (0)

Nessun commento ancora. Sii il primo!

Accedi per commentare.