HemAI-ordlistaKvantisering

Ändrad

Kvantisering

På engelska: Quantization

Processen att komprimera en AI-modell genom att minska precisionen på talen inuti den. En modell kvantiseras till Q4 (4-bitars), Q8 (8-bitars) eller andra nivåer för att passa mindre GPU-minne. Mindre precision = mindre fil och snabbare körning, men marginellt lägre kvalitet.

Område:OptimeringInfrastruktur

Se hela ordlistan · 243 termer på svenska och engelska