Nordmannen Arve Hjalmar Holmen har i dag klaget inn OpenAI etter at ChatGPT skal ha fremstilt ham som barnemorder.
Mannen spurte hvem han var, og ChatGPT påsto feilaktig at han var en far som hadde drept sine to sønner på syv og ti år, samt forsøkt å drepe sitt tredje barn.
ChatGPT hevdet videre at mannen ble dømt til 21 års fengsel, og at saken ble bredt dekket i norsk presse.
Hallusinasjon er et begrep ofte brukt for å beskrive at språkmodeller som ChatGPT dikter opp og gir feilaktig informasjon.
AI vet ikke sannheten. Ikke stol på den til å generere riktig informasjon. Det som burde bli sett mere på er hvorfor den viste hvor mange barn han har og hvor i Norge han er fra, og hvordan/hvorfor den inkluderte det i svaret.
LLMer prøver bare å generere tekst som ser ekte ut… når den faktisk genererer noe som er sant så er det bare en tilfeldighet.
Vi er en lang vei unna å kunne stole på disse "AI"ene ja. De er gode på oppskrifter og omskriving av tekster samt til å jukse på skoleleksene. Men å bruke dem som søkemotor er livsfarlig.
The Columbia Journalism Review hadde vel en sak om hvor ille det faktisk står til for noen uker siden.