Latens er ventetid fra en forespørsel til et bestemt svarpunkt. I KI skiller vi blant annet mellom første respons og hele svaret. For en arbeidsflyt er det også viktig når oppgaven faktisk er ferdig. Modell, datamengde, belastning og verktøykall kan påvirke ventetiden. Riktig krav avhenger av hvem som venter, og hva de skal gjøre videre.