Ändrad
AI-ordlista
Kvantisering
På engelska: Quantization
Processen att komprimera en AI-modell genom att minska precisionen på talen inuti den. En modell kvantiseras till Q4 (4-bitars), Q8 (8-bitars) eller andra nivåer för att passa mindre GPU-minne. Mindre precision = mindre fil och snabbare körning, men marginellt lägre kvalitet.
Område:OptimeringInfrastruktur
Relaterade termer
Se hela ordlistan · 243 termer på svenska och engelska