Variabele kosten

Tokens

Tokens zijn de kleinste eenheden van tekst die een AI-model verwerkt.
Ze kunnen woorden, delen van woorden, leestekens of speciale symbolen zijn.

  1. Functie: Tokens helpen AI-modellen om tekst te begrijpen en te verwerken door deze op te delen in betekenisvolle eenheden.

  2. Voorbeelden:

    • Het woord "kat" is meestal één token.

    • "Ongelooflijk" kan worden opgedeeld in meerdere tokens: "on", "geloof", "lijk".

    • Leestekens zoals "." of "," zijn vaak aparte tokens.

  3. Tokenisatie: Het proces van het opdelen van tekst in tokens.

  4. Gebruik in AI:

    • Inputverwerking: AI-modellen verwerken tekst token voor token.

    • Outputgeneratie: AI genereert tekst ook token voor token.

  5. Kostenfactor: AI-diensten berekenen kosten op basis van het aantal verwerkte tokens.

  6. Taalonafhankelijk: Tokenisatie werkt voor verschillende talen en schrijfsystemen.

  7. Efficiëntie: Tokens helpen bij het efficiënt verwerken en opslaan van taalgegevens.

  8. Contextbehoud: Tokenisatie behoudt de oorspronkelijke structuur en betekenis van de tekst.

Begrip van tokens is belangrijk voor het begrijpen van hoe AI-taalmodellen werken en hoe de kosten voor hun gebruik worden berekend.

De variabele kosten bij AI-gebruik bestaan uit de kosten die berekend worden voor het chatten. Deze kosten worden in rekening gebracht door de AI-aanbieders. Zij berekenen deze kosten op basis van tokens. Gemiddeld kan je ervan uitgaan dat de maandelijkse variabele kosten per actieve gebruiker 1 euro zijn.

Rekenvoorbeeld variabele kosten

CHAT

input aantal letters gemiddeld : 

500

input aantal tokens gemiddeld:

180

kosten input tokens (GPT-4O)

$2,50 per 1M tokens

kosten per chatbericht:

$0,00045

output aantal letters gemiddeld:

1000

output aantal tokens gemiddeld:

360

kosten output tokens (GPT-4O)

$10 per 1M tokens

kosten per chatbericht:

$0,0036

Totale kosten per chatbericht: $0,00405

Totale kosten voor 200 chatberichten per maand: $0,09

BEELD

Kosten per beeld 1024 x 1024 = $0,04

Totale kosten voor 20 beelden per maand: $0,80

OVERIG

Denk hierbij aan:

- Assitants API (instellen van assistenten)

- Audio verwerking m.b.v. Whisper (uploaden van audio om te kunnen chatten met de inhoud van het opgenomen gesprek)

- Beeldanalyse m.b.v. GPT-4O (Vision)

Ingeschat op $0,21

TOTAAL

Totaal per maand = $0,09 (chat) + $0,80 (beeld) + $0,21 (overig) = $1,10 = 1 euro

Totale kosten per actieve gebruiker per maand is ongeveer 1 euro per maand