Variabele kosten

Tokens

Tokens zijn de kleinste eenheden van tekst die een AI-model verwerkt.
Ze kunnen woorden, delen van woorden, leestekens of speciale symbolen zijn.

  1. Functie: Tokens helpen AI-modellen om tekst te begrijpen en te verwerken door deze op te delen in betekenisvolle eenheden.

  2. Voorbeelden:

    • Het woord "kat" is meestal één token.

    • "Ongelooflijk" kan worden opgedeeld in meerdere tokens: "on", "geloof", "lijk".

    • Leestekens zoals "." of "," zijn vaak aparte tokens.

  3. Tokenisatie: Het proces van het opdelen van tekst in tokens.

  4. Gebruik in AI:

    • Inputverwerking: AI-modellen verwerken tekst token voor token.

    • Outputgeneratie: AI genereert tekst ook token voor token.

  5. Kostenfactor: AI-diensten berekenen kosten op basis van het aantal verwerkte tokens.

  6. Taalonafhankelijk: Tokenisatie werkt voor verschillende talen en schrijfsystemen.

  7. Efficiëntie: Tokens helpen bij het efficiënt verwerken en opslaan van taalgegevens.

  8. Contextbehoud: Tokenisatie behoudt de oorspronkelijke structuur en betekenis van de tekst.

Begrip van tokens is belangrijk voor het begrijpen van hoe AI-taalmodellen werken en hoe de kosten voor hun gebruik worden berekend.

De ervaring leert dat er ook altijd minder actieve gebruikers zijn op school. Hierdoor ligt het gemiddelde aantal chatberichten en afbeeldingen onder de aantallen die hierboven genoemd zijn. We stellen voor om te rekenen met een gemiddelde van 25% actieve gebruikers.

De variabele kosten bij AI-gebruik bestaan uit de kosten die berekend worden voor het chatten. Deze kosten worden in rekening gebracht door de AI-aanbieders. Zij berekenen deze kosten op basis van tokens. Gemiddeld kan je ervan uitgaan dat de maandelijkse variabele kosten per actieve gebruiker 1,5 euro zijn. Maar dit geldt zeker niet voor alle gebruikers. Reken op een adoptie van 25% actieve gebruikers.

Rekenvoorbeeld variabele kosten

CHAT

input aantal letters gemiddeld : 500

input aantal tokens gemiddeld: 180

kosten input tokens (GPT-4O): $2,50 per 1M tokens

kosten input tokens per chatbericht: $0,00045

output aantal letters gemiddeld: 1000

output aantal tokens gemiddeld: 360

kosten output tokens (GPT-4O) $5 per 1M tokens

kosten output tokens per chatbericht: $0,0018

Totale kosten per chatbericht: $0,00225

Totale kosten voor 200 chatberichten per maand: $0,45

BEELD

Kosten per beeld 1024 x 1024 = $0,04

Totale kosten voor 20 beelden per maand: $0,80

OVERIG

Denk hierbij aan:

- Assitants API (instellen van assistenten)

- Audio verwerking m.b.v. Whisper (uploaden van audio om te kunnen chatten met de inhoud van het opgenomen gesprek)

- Beeldanalyse m.b.v. GPT-4O (Vision)

Ingeschat op $0,25

TOTAAL

Totaal per maand = $0,45 (chat) + $0,80 (beeld) + $0,25 (overig) = $1,50

Totale kosten per actieve gebruiker per maand is 1,5 euro per maand


Rekenvoorbeeld per school

Basisschool met 100 medewerkers en 200 leerlingen

We gaan ervanuit dat slechts 30% van de leerlingen AI actief gaat inzetten. De lagere groepen zullen namelijk zeer waarschijnlijk minder of geen gebruik maken van AI.

Aantal medewerkers: 100

Aantal leerlingen: 60

Totale inschatting van de maandelijkse variabele kosten:

160 x 1,5 (kosten per actieve gebruiker) x 25% (niet iedereen gebruikt AI intensief) x 12 = 720 Euro per jaar

Middelbare school met 200 medewerkers en 1000 leerlingen

Aantal medewerkers: 200

Aantal leerlingen: 1000

Totale inschatting van de maandelijkse variabele kosten:

1200 x 1,5 (kosten per actieve gebruiker) x 25% (niet iedereen gebruikt AI intensief) x 12 = 5.400 Euro per jaar