Quantization
Quantization è una tecnica che riduce la precisione numerica dei modelli di AI per occupare meno memoria e, su hardware compatibile, velocizzare i calcoli.
Esempio pratico
Un modello AI con pesi a 32 bit può essere convertito a 8 bit: i pesi occupano circa un quarto della memoria, spesso con una perdita di qualità contenuta. Semplificando, è come arrotondare 3,98 a 4. Un modello di intelligenza artificiale usa numeri più semplici, così occupa meno memoria e può funzionare più velocemente.
Termini correlati