Forum › Tecnologia › Ollama in locale: che hardware serve dav…
Ollama in locale: che hardware serve davvero?
Vorrei far girare un LLM in casa per privacy ma sono confuso sulla VRAM.
Ho una GPU con 8GB e con i modelli 7B fatico parecchio.
Qual e il minimo sindacale per avere risposte decenti senza CPU lentissima?
Meglio puntare su una 3060 12GB usata?
Accedi per rispondere.