Kort: Generativ AI är teknik som skapar nytt innehåll som text, bild, ljud eller film utifrån en instruktion.
En språkmodell bygger upp text utifrån mönster som den har lärt sig i stora mängder material. Den kan sammanfatta, ge förslag och efterlikna olika sätt att skriva, men också skapa felaktiga uppgifter och påhittade källhänvisningar. Ett flytande språk visar därför inte att innehållet stämmer.
Bild-, ljud- och videomodeller kan på liknande sätt skapa övertygande material. När det används för att vilseleda kan det bidra till desinformation.
Se även: Deepfake, Desinformation, Källkritik, Algoritm