Ho integrato un LLM locale nei miei script: esperienza

Uso un modellino locale via API per categorizzare automaticamente le note che butto giù. Non serve precisione assoluta, deve solo smistare in cartelle. Gira su una macchina sempre accesa e fa il suo lavoro silenziosamente. Qualcuno automatizza cose simili con modelli in casa?