Forum › Tecnologia › Quale GPU per AI locale senza svenarsi?
Quale GPU per AI locale senza svenarsi?
Sto cercando una scheda usata con almeno 12GB di VRAM per far girare modelli decenti.
La 3060 12GB sembra il miglior rapporto qualità prezzo del momento.
Le schede con 8GB di VRAM le scarto, troppo poco per i modelli interessanti.
Voi con che configurazione girate i LLM in locale?
Accedi per rispondere.