Farlig tendens bekymrer minister og Red Barnet: Børns 'Usynlige venner' giver livsfarlige råd

Nye tal: Hvert tiende barn skriver ugentligt med Snapchats virtuelle ven

My AI har på kort tid presset sig ind i mange børns liv og er blevet en fortrolig ven. Kulturministeren er ”dybt bekymret” og erkender, at der har manglet politisk handling på området.

Alle børn med en profil på det populære sociale medie Snapchat fik pludselig en ny virtuel ven for et halvt år siden. Vennen hedder My AI og er en chatbot, der bygger på AI-teknologi.

Lige siden har My AI ligget øverst i børnenes chat og har ikke kunne fjernes, medmindre de betaler for det. Det og meget andet har Snapchat fået voldsom kritik for.

Nu viser nye tal, at tæt på 1 ud af 10 børn mellem 9-14 år skriver med My AI mindst et par gange om ugen.

Det viser en ny undersøgelse, som Epinion har lavet for Ultra Nyt, der er DR’s nyhedstilbud til børn.

Det bekymrer Red Barnet:

»Vi har desværre set for mange eksempler på, at den har givet rigtigt dårlige råd. Vi ved faktisk ikke præcis, hvad den kan finde på at svare,« siger Per Frederiksen, der er psykolog i Red Barnet til Ultra Nyt.

Uheldige råd

Der har tidligere været historier om, at My AI har stillet børnene ubehagelige spørgsmål og kan finde på at give råd til selvskade.

Men en del børn skriver altså med robotten om personlige og følsomme emner. Og flere kan endda finde på at prioritere kommunikation med My AI frem for deres rigtige venner.

Børnene lægger i den forbindelse vægt på, at robotten altid svarer dem prompte og giver udtryk for, at den interesserer sig for dem.

Faktisk viser Ultra Nyts undersøgelse, at 1 ud af 10 af de 9-14-årige har prøvet at skrive med My AI om ting, de synes er svære. Samtidig har tæt på 1 ud af 8 prøvet at skrive med My AI i stedet for at skrive med deres rigtige venner.

»Hvis det handler om følelser, de svære følelser, for eksempel at være ensom, så er det et dårligt sted at hente den bedste vejledning,« siger Per Frederiksen fra Red Barnet.

Ikke tovejs

Det er ifølge Børns Vilkår vigtigt at huske på, at relationen til My AI ikke er gensidig:

»Det er vigtigt, at det er nogle rigtige mennesker, man kan dele de her ting med, og som lærer en at kende. My AI er i princippet ligeglad med os alle sammen,« siger Kathrine Elmose Jørgensen, der er digital medieekspert i Børns Vilkår til Ultra Nyt.

Snapchat oplyser i et skriftligt svar til Ultra Nyt, at de fortsat er i gang med at udvikle My AI og tilføjer, at børnene ikke behøver at skrive med deres chatbot, hvis de ikke har lyst.

Kulturminister Jakob Engel Schmidt (M) siger til Ultra Nyt, at han er ”dybt bekymret” over tendensen:

»Det er ikke ligesom at fortælle en kammerat eller en god ven en hemmelighed – tværtimod deler man det med store multinationale selskaber, som lærer dig bedre og bedre at kende.«

Han mener, at der er flere instanser, som bærer et ansvar i denne sammenhæng:

»Der er forældreansvar, hvor man som forældre skal sørge for at have en god snak med sine børn. Og der er et uddannelsesansvar, den teknologiske forståelse, hvad lærer vi ovre i skolen,« siger han og tilføjer:

»Og så er der et stort politisk ansvar, som vi først er begyndt at løfte og måske også er begyndt at løfte for sent.«

EU er også i gang med at udarbejde love inden for AI, som skal sikre børns beskyttelse.