HemAI-ordlistaTokenbudget

Ändrad

Tokenbudget

På engelska: Token Budget

Den mängd tokens som får plats i en körning, inklusive både input och output. Om budgeten tar slut måste modellen prioritera, sammanfatta eller tappa information.

Område:InfrastrukturKostnad

Se hela ordlistan · 243 termer på svenska och engelska