Ordet är lånat från psykologin och är egentligen missvisande: modellen upplever ingenting. Den räknar fram ett svar ord för ord, och när underlaget saknas blir det påhittade svaret lika välformulerat som det korrekta. Det viktiga för en beslutsfattare är därför att en hallucination inte ser ut som ett fel. Texten är flytande, tonen säker och detaljerna specifika. Felet kan vara ett påhittat citat, en produkt som inte finns, ett pris som är fel eller en grundare som aldrig har funnits. Begreppet gäller Generativ AI i bred mening: ChatGPT, Gemini, Claude, Perplexity och Googles AI Overviews kan alla hallucinera.
Det gör hallucinationer svåra att upptäcka för läsaren – och det är just därför de är en affärsrisk, inte en teknisk kuriositet.
Språkmodeller hallucinerar för att de är byggda för att förutsäga nästa ord, inte för att kontrollera fakta – och för att träning och utvärdering belönar gissning framför "vet inte". En LLM har ingen intern databas med verifierade uppgifter. Den har statistiska mönster från enorma mängder text. När frågan gäller något modellen sett tusentals exempel på blir svaret oftast rätt. När underlaget är tunt fyller modellen luckan med det som låter mest sannolikt.
OpenAI publicerade i september 2025 en forskningsartikel som förklarar mekanismen. Modellerna utvärderas med tester där ett gissat svar kan ge poäng, medan "jag vet inte" alltid ger noll. Det lär modellen att alltid svara – även utan underlag. Källa: OpenAI · Källa: arXiv
Slutsatsen är enkel: ju mindre modellen vet om ett ämne, desto större risk att den hittar på. För de flesta företag är det egna varumärket exakt ett sådant ämne.
Hur ofta en modell hallucinerar varierar från enstaka procent upp till tvåsiffriga andelar beroende på modell och uppgift. Vectaras öppna topplista mäter hur ofta modeller lägger till påhittade uppgifter när de sammanfattar ett dokument. Vid mätning våren 2026 låg de bästa modellerna på låga ensiffriga procent, medan andra låg klart högre. Källa: Vectara Siffrorna rör sig snabbt med nya modellversioner – se dem som en ögonblicksbild.
Testet är dessutom gynnsamt för modellerna: de får dokumentet framför sig. I en öppen fråga utan underlag – "vad kostar företag X:s tjänst?" – är risken högre.
I domstolar är effekten dokumenterad. Juristen Damien Charlotin driver en databas över rättsfall där AI-genererade, påhittade rättsfallshänvisningar upptäckts. Per juni 2026 innehöll den över 1 500 fall från hela världen, med böter som stigit från några tusen dollar 2023 till sexsiffriga belopp 2026. Källa: Damien Charlotin
RAG (Retrieval-Augmented Generation) minskar risken avsevärt genom att modellen hämtar svaret ur verifierade dokument i stället för att svara ur minnet – men tekniken eliminerar inte hallucinationer. Företagets dokument lagras i en Vektordatabas, relevant text hämtas vid varje fråga och modellen instrueras att svara utifrån den. Kombineras det med Citations, det vill säga att svaret pekar på sin källa, kan användaren kontrollera påståendet själv.
Samma mekanism styr den publika AI-sökningen. Perplexity, ChatGPT med webbsök och Google AI Overviews hämtar innehåll från webben i realtid och citerar källor. Det betyder att det som står på din hemsida är underlaget modellen svarar utifrån. Finns inget tydligt svar där faller modellen tillbaka på gissning. Hur den mekaniken fungerar i praktiken beskrivs i Vad är AI-sök? och AI Overviews och GEO.
RAG minskar alltså risken i två riktningar: internt, i egna chattbotar och assistenter, och externt, genom att ge de publika AI-tjänsterna rätt underlag att hämta.
När AI beskriver ett företag fel förlorar företaget affärer utan att någonsin få veta om det. Hallucinationer uppstår oftast där träningsdata är tunn, och för nästan alla företag utanför de globala jättarna är det egna varumärket ett sådant tunt område. Modellen fyller luckan med det som är typiskt för branschen, eller med uppgifter om konkurrenter: fel prisnivå, en tjänst ni inte erbjuder, en integration ni saknar eller en påhittad grundare. Källa: Insightland
Det mönster som kostar mest är ett annat. När modellen saknar information tenderar den att svara "nej" snarare än "vet inte". Frågar en potentiell kund "stöder X integration med Y?" och svaret inte finns tydligt på er hemsida, är risken påtaglig att AI svarar att stödet saknas. Den potentiella kunden går vidare till nästa leverantör. Ingen i ert bolag ser frågan.
Air Canada-fallet visar att ansvaret dessutom ligger hos företaget. Flygbolagets chattbot hittade på en policy om rabatt vid dödsfall i familjen som inte fanns. Kunden köpte biljett i tron att rabatten gällde, och i februari 2024 dömde British Columbias Civil Resolution Tribunal bolaget att betala 812,02 CAD. Bolagets argument att chattboten var en separat juridisk enhet avfärdades. Källa: McCarthy Tétrault
Det finns heller ingen "rätta fakta"-knapp hos modelleverantörerna. I ett GDPR-ärende drivet av organisationen noyb angav OpenAI att felaktiga uppgifter inte kan korrigeras i modellen, bara filtreras bort. Källa: noyb Det enda ett företag kan påverka är underlaget modellen hämtar ifrån.
Det mest effektiva ett företag kan göra är att göra rätt information lätt att hitta, hämta och citera – det som inom AEO kallas Owned AEO. Ni styr inte modellen, men ni styr vad den hittar när den letar. Fyra åtgärder som brukar ge störst effekt:
Lägg till löpande mätning: ställ de frågor ni får från potentiella kunder till ChatGPT, Perplexity och Gemini en gång i månaden och dokumentera svaren. Brand mentions i pålitliga externa källor stärker bilden ytterligare – ju fler samstämmiga källor, desto mindre utrymme att gissa. Hur detta passar in i en större plan beskrivs i AI-strategi för företag.
Nej. Att förankra svaren i verifierade dokument med RAG, tydlig källcitering och bättre modeller minskar frekvensen kraftigt, men så länge en språkmodell genererar text utifrån sannolikhet finns risken kvar. Rätt målbild är att göra hallucinationer sällsynta, upptäckbara och ofarliga – inte omöjliga.
Företaget som tillhandahåller chattboten. I Air Canada-fallet (2024) avvisade tribunalen argumentet att chattboten var en separat juridisk enhet, och bolaget fick stå för det påhittade löftet. Principen att den som lämnar information ansvarar för att den är korrekt är allmän även i svensk marknadsförings- och avtalsrätt, men rättsläget för AI-chattbotar specifikt är ännu inte lika prövat i Sverige.
Testa själv. Ställ de frågor era potentiella kunder ställer – pris, funktioner, integrationer, jämförelser med konkurrenter – till ChatGPT, Perplexity, Gemini och Google AI Overviews. Dokumentera svaren och jämför mot fakta. Gör det regelbundet: svaren förändras när modeller uppdateras och när ert innehåll indexeras.
Publicera en faktasida med tydliga svar på köparens frågor, se till att företagsinformationen är identisk i alla kanaler, lägg till Schema markup och skriv innehållet i korta, självständiga stycken som går att citera. Det är åtgärder ett marknadsteam kan genomföra utan extern hjälp – och som gör störst skillnad för hur AI beskriver er.