Forum › Programmazione & Dev › comprare una GPU usata per ollama/AI loc…
comprare una GPU usata per ollama/AI locale: RTX 3060 12GB o aspetto?
ho un homelab con Proxmox e voglio iniziare a fare cose con Ollama e modelli locali. ho capito che la VRAM e tutto. ho visto RTX 3060 12GB usate a 190-220 euro. vale la pena prenderla adesso o aspetto qualcosa di meglio? non voglio spendere piu di 250 euro. la uso principalmente per LLM (llama3, mistral) non per gaming. ho letto che la 3060 12GB batte la 4060 8GB per LLM proprio per la VRAM. ma mi sfugge qualcosa? qualcuno usa gia ollama con 3060 e sa dirmi cosa ci gira bene?
Accedi per rispondere.