29-årig i retten for AI-overgrebsbilleder af børn: Vidste ikke det var ulovligt

Generativ kunstig intelligens anført af ChatGPT og Midjourney har taget verden med storm, men fremskridtet har en mørk bagside.

Teknologien bruges nemlig i stor stil til at skabe fotorealistiske billeder af seksuelle overgreb på børn, der florerer i de mørke afkroge af internettet - og problemet er også i Danmark eksploderet i de senere år.

Det viser en opgørelse, som Red Barnet har lavet for Ingeniøren.

I 2024 har organisationen foreløbigt modtaget 1922 anmeldelser om såkaldt computergenereret overgrebsmateriale med børn, mens tallet for hele 2020 lød på bare 18 anmeldelser.

Både Red Barnet og Politiets Enhed for Særlig Kriminalitet (NSK) vurderer over for Ingeniøren, at det er den almene udbredelse af generativ kunstig intelligens, der er hovedårsag til stigningen i computergenereret overgrebsmateriale med børn:

»Allerede for år tilbage så vi sager, hvor for eksempel profilbilleder af børn blev sat på en nøgen krop. Ofte var det ret primitivt, men i nogle tilfælde førte det til afpresning - såkaldt sextortion - af børn. Siden da har den teknologiske udvikling bare accelereret problemet,« forklarer Per Frederiksen, psykolog ved Red Barnet, i et interview med Ingeniøren.

Begrænsninger - hos nogle udbydere

De mest udbredte AI-systemer til billedgenerering som OpenAIs Dall-E eller MidJourney, har sikkerhedsforanstaltninger indbygget, så det ikke er muligt at lave overgrebsbilleder. Men mindre kendte tjenester sætter ofte ikke grænser for, hvad man bruger teknologien til.

For eksempel kunne det amerikanske medie The Atlantic i sidste måned beskrive, hvordan tjenesten Muah.AI, der har i omegnen af to millioner brugere, i høj grad bliver brugt til at skabe seksuelt overgrebsmateriale med børn. Tjenesten er ifølge Mauh.AI selv en »ucensureret« og »NSFW« (not safe for work, red.) AI-service, hvor brugerne kan lave en chatbot-kæreste, som kan kommunikere via tekst, tale og ikke mindst billeder.

Første sag for retten

Herhjemme nåede den første sag om AI-genererede overgrebsbilleder af børn et retslokale, da en 29-årig mand kom for byretten i Randers.

Han er tiltalt for have produceret og solgt mere end 36.000 overgrebsbilleder af børn.

Forventningen var en ren tilståelse, men nu er sagen alligevel udskudt på ubestemt tid, fordi manden under retsmødet forklarede, at selvom han tilstår at have lavet billederne, så var han ikke klar over, at det er ulovligt.

Billederne forestiller nemlig ikke rigtige børn, men er fotorealistiske fremstillinger af overgreb på fiktive børn.

Ny tænkning

Hos Red Barnet forholder man sig ikke til den specifikke retssag, men generelt mener organisationen, at sondringen mellem virkelige og fiktive børn er forældet:

»Vi skal væk fra den nuværende skelnen i lovgivningen, som groft sagt går på, at materialet skal være fuldt livagtigt - som et foto - for at være ulovligt,« siger Per Frederiksen.

»Sådan er virkeligheden jo ikke længere. Så lovgivningen er nødt til et sted hen, hvor den adresserer den klare og tydelige seksualisering af børn. Bare det at lægge et filter over et billede, ved vi fra Interpol, er i dag en måde at maskere ægte overgrebsmateriale på.«