En GPU er en prosessor som egner seg til mange beregninger i parallell. Den brukes blant annet til grafikk og krevende KI-beregninger, både ved trening og bruk av modeller. GPU-er samarbeider med annen maskinvare og programvare. Hvor mye kapasitet en oppgave trenger, avhenger av løsningen, modellen og belastningen.