Hvorfor kan ikke KI telle bokstaver? Tokenisering forklart enkelt

TL;DR (Kort oppsummert)

Be en KI-chatbot telle hvor mange ganger bokstaven “r” forekommer i ordet “strawberry”, og du får overraskende ofte feil svar, selv fra svært avanserte modeller. Dette spesifikke eksempelet har blitt så kjent at det har fått sitt eget navn i nettmiljøer: “strawberry-problemet”. Det virker underlig at en modell som kan forklare kvantefysikk eller skrive et dikt, kan snuble på noe et barn klarer. Årsaken ligger ikke i at modellen er “dum”, men i hvordan den faktisk leser tekst i utgangspunktet. En KI-modell ser ikke bokstav for bokstav, slik du gjør når du leser. Den deler teksten opp i større biter, kalt tokens, og jobber med disse bitene som tall, ikke som stavede ord. Denne artikkelen forklarer mekanismen, kalt tokenisering, og hvorfor det samme problemet dukker opp igjen i enkel matematikk.

Hvorfor “strawberry” ble et kjent eksempel

Spørsmålet “hvor mange r-er er det i strawberry?” har blitt et av de mest delte eksemplene på nettet for å teste, eller avsløre, svakheter i KI-chatboter. Det riktige svaret er tre. Flere store, populære modeller har likevel svart to, tilsynelatende fordi de “teller” på en helt annen måte enn du gjør når du ser på ordet bokstav for bokstav.

Fenomenet er ikke bare et morsomt internett-triks. Det peker på noe grunnleggende ved hvordan disse modellene faktisk fungerer under overflaten, noe som er nyttig å forstå hvis du bruker KI til noe som helst tekstrelatert.

Hvordan en KI faktisk “ser” et ord

Når du skriver en tekst til en KI-modell, blir den ikke lest bokstav for bokstav slik du selv leser. I stedet deler modellen teksten opp i biter kalt tokens, ofte deler av ord, hele ord eller enkelttegn, avhengig av hvor vanlig biten er i språket modellen er trent på. Ordet “strawberry” blir for eksempel i OpenAIs mye brukte GPT-4-tokenisering faktisk delt opp i tre biter: “str”, “aw” og “berry”, ikke ti enkeltbokstaver.

Hver token blir så omgjort til et tall, en unik ID-kode, før den sendes videre inn i selve modellen. Det modellen faktisk jobber med internt, er dermed rekker av tall, ikke bokstaver på et ark. Tallet for “str” forteller modellen noe om betydningen og sammenhengen biten inngår i, men det inneholder ingen direkte informasjon om at den består av bokstavene s-t-r i akkurat den rekkefølgen. De tre bokstavene “r” i “strawberry” er nettopp derfor spredt over ulike tokens: én i “str”, og to i “berry”, låst sammen inne i én og samme bit som modellen ikke automatisk bryter ned til enkelttegn igjen. Det er en direkte, konkret forklaring på hvorfor svaret “to” er en så vanlig feil.

Begge R-ene i “berry” ligger låst sammen inni samme token, modellen ser dem ikke som to separate bokstaver den kan telle.

Dette er hovedgrunnen til at å telle spesifikke bokstaver er overraskende vanskelig for en modell som ellers virker svært kompetent: oppgaven krever at modellen ser forbi sin egen, vanlige måte å representere tekst på, og i praksis simulerer en bokstav-for-bokstav-analyse den ikke naturlig gjør.

Slik fordeler bokstavene i “strawberry” seg over de tre tokenene:

Token	Bokstaver	Antall “r” i denne biten
“str”	s-t-r	1
“aw”	a-w	0
“berry”	b-e-r-r-y	2

Modellen ser tre separate tall, ikke ti bokstaver på rad, noe som gjør det lett å miste oversikten over at det totalt blir tre r-er.

Hvorfor deles tekst opp sånn i utgangspunktet?

Det kan virke som en unødvendig komplikasjon, men tokenisering løser et reelt problem. Å behandle hver eneste bokstav som en egen enhet ville krevd enormt mye mer regnekraft for å prosessere selv korte tekster, og gjort det vanskeligere for modellen å fange opp betydningen til hele ord og fraser effektivt. Ved å gruppere vanlige bokstavkombinasjoner sammen som én enhet, blir både trening og bruk av modellen langt mer effektiv, og modellen fanger lettere opp mønstre i hvordan ord faktisk brukes i sammenheng, ikke bare hvordan de er stavet.

Kort sagt: tokenisering er bygget for å forstå og generere flytende språk raskt. Den er ikke bygget for å telle enkelttegn presist. De to målene trekker i litt ulik retning, og bransjen har historisk sett prioritert det første.

Samme grunn til at KI av og til bommer på enkel matte

Dette henger sammen med et annet, ofte observert fenomen: at en KI-modell kan løse avansert matematikk korrekt, men samtidig bomme på enkel, “mekanisk” regning som å multiplisere store tall for hånd. Tall blir også tokenisert, ofte i grupper av flere sifre, ikke ett siffer om gangen. Det gjør at modellen “ser” et tall mer som ett samlet mønster enn som en rekke enkeltsifre den kan regne på systematisk, akkurat som med bokstavene i strawberry-eksempelet. Nyere modeller har delvis forbedret dette gjennom bedre tokenisering av tall og ved å bruke eksterne verktøy (som en faktisk kalkulator) i stedet for å stole på egen mental regning.

Er dette fikset i nyere modeller?

Delvis. Flere AI-selskaper har justert hvordan tallene og enkelte ord tokeniseres for å redusere denne typen feil, og nyere reasoning-modeller er ofte bedre til å “tenke seg om” og eksplisitt bryte ned et ord bokstav for bokstav før de svarer, i stedet for å svare direkte ut fra en rask, intuitiv gjetning. Mange moderne chatbot-grensesnitt lar også modellen bruke et eksternt verktøy, som å skrive og kjøre litt kode, for å telle presist i stedet for å stole på egen indre representasjon. Problemet er derfor ikke borte, men det er i økende grad mulig å omgå, hvis modellen faktisk bruker riktig strategi.

Vanlige spørsmål

Hvorfor bruker ikke KI-modeller bare bokstaver direkte, i stedet for tokens?

Fordi det ville krevd langt mer regnekraft for å behandle selv korte tekster, og gjort det vanskeligere for modellen å effektivt fange opp betydningen til hele ord og fraser. Tokenisering er en avveining som prioriterer flytende språkforståelse over presis, bokstav-for-bokstav-telling.

Har dette noe med hallusinasjon å gjøre?

Ikke direkte, men de to fenomenene kan minne om hverandre utenfra. Hallusinasjon handler om at modellen gjetter selvsikkert når den er usikker på fakta. Bokstavtelling-problemet handler om noe mer mekanisk: hvordan teksten faktisk er representert internt i modellen, uavhengig av om modellen er “sikker” eller ikke. Begge kan gi et feil svar som virker overraskende for et menneske, men av ulike underliggende grunner.

Sliter KI med matte av samme grunn som med bokstaver?

Delvis ja. Tall tokeniseres også ofte i grupper av flere sifre, ikke ett og ett siffer, noe som kan gjøre presis, mekanisk regning vanskeligere for modellen enn den språklige, mønstergjenkjennende oppgaven den egentlig er bygget for å løse godt.

Er dette et problem hos alle KI-chatboter?

Graden varierer mellom ulike modeller og hvordan de er tokenisert, og har blitt gradvis bedre over tid gjennom både justert tokenisering og bruk av eksterne verktøy. Men selve mekanismen, at tekst deles opp i tokens fremfor enkeltbokstaver, gjelder de aller fleste store språkmodeller i dag, ikke bare én bestemt modell.

Oppsummering og kilder

KI-modeller “ser” ikke tekst bokstav for bokstav slik mennesker gjør. De deler den opp i biter kalt tokens, som deretter representeres som tall internt i modellen. Dette gjør prosesseringen av språk langt mer effektiv, men gjør samtidig presise, mekaniske oppgaver som å telle enkeltbokstaver i et ord overraskende vanskelig. Det samme gjelder for enkel, sifferbasert regning. Nyere modeller har delvis forbedret dette gjennom bedre tokenisering og bruk av eksterne verktøy, men den grunnleggende mekanismen bak fenomenet er fortsatt til stede i de fleste store språkmodeller.

Det viktigste å huske:

KI-modeller deler tekst opp i “tokens” (ordbiter), ikke enkeltbokstaver
Dette gjør språkbehandling effektiv, men gjør bokstavtelling og presis regning vanskeligere
“Strawberry-problemet” er et kjent, konkret eksempel på dette fenomenet
Nyere modeller kan delvis omgå problemet ved å bruke eksterne verktøy eller resonnere seg gjennom oppgaven steg for steg

Kilder brukt i denne artikkelen:

Sist oppdatert: August 2026

Hvorfor klarer ikke KI å telle bokstaver i et ord? Tokenisering forklart