PointerPodcast
Pointer[292]: Pensare E Sperimentare
1:03:46
💻 Per aprire la puntata di questa settimana ci occupiamo di inferenza locale e di quanto il mondo dei modelli open Weight stia evolvendo velocemente. GGUF, quantizzazione e vari tool, danno la possibilità di far girare modelli sempre più potenti anche su hardware consumer; negli ultimi due anni ad esempio, la qualità dei modelli eseguibili localmente su un MacBook da 128GB è cresciuta di quasi 5…