Når der uploades dokumenter til systemet ses spikes af aktivitet på de GPU'er der benyttes til tokenization og indeksering af dokumenterne. Men er der throttling indbygget på denne ingrestion, som usandsynliggør at dokumentupload påvirker brugeres oplevelser, eller vil brug at chatbots potentielt kunne blive påvirket mens der uploades dokumenter? Skal vi gøre noget for at sikre oplevelsen?
Når der uploades dokumenter til systemet ses spikes af aktivitet på de GPU'er der benyttes til tokenization og indeksering af dokumenterne. Men er der throttling indbygget på denne ingrestion, som usandsynliggør at dokumentupload påvirker brugeres oplevelser, eller vil brug at chatbots potentielt kunne blive påvirket mens der uploades dokumenter? Skal vi gøre noget for at sikre oplevelsen?