Hvordan påvirker kunstig intelligens (AI) børn og unges liv?
Som en fortrolig 'ven' er chatbots altid med i lommen og klar til at tilbyde hurtige svar, råd eller sågar virtuel omsorg. Med få klik kan billeder manipuleres til falske nøgenfotos, og misinformation og skjult påvirkning kan spredes hurtigt, hvilket gør det svært at skelne mellem sandt og falsk.
Kort sagt: Kunstig intelligens revolutionerer børn og unges liv – på godt og ondt. Deres relationer, uddannelse og forståelse af viden og demokrati bliver påvirket. Her er det afgørende at sikre, at AI ikke stilles til rådighed for børn og unge uden fokus på deres trivsel, tryghed, udvikling og sikkerhed. Ellers risikerer vi at begå de samme fejl med AI, som vi gjorde med sociale medier.
Derfor har vi brug for både nationale og internationale løsninger og et stærkt globalt fokus og samarbejde, for kunstig intelligens og den teknologiske udvikling kender ikke til landegrænser.
Hvad er de største udfordringer, når det gælder børn, unge og kunstig intelligens?
Børn og unge er nogle af de mest aktive brugere af platforme, der baserer sig på AI. De er samtidig mere sårbare over for en række af de risici, der kommer med brugen af AI. Alligevel er hensynet til barnets udvikling, sikkerhed og trivsel i alt for begrænset omfang en integreret del af de AI-redskaber, der bliver udviklet og stillet til rådighed for børn og voksne.
Mange børn ved ikke, hvordan kunstig intelligens virker, eller hvornår kunstig intelligens spiller en rolle i det, de laver eller oplever. I mange tilfælde vil kunstig intelligens være med til at accelerere digitale problemer, som alt for mange børn oplever i dag, fx hacking, svindel og udbredelse af misinformation.
I Red Barnet ser vi mange områder, hvor vi skal være særligt opmærksomme på at beskytte børn og unge. Her er vores bud på fire udfordringer, som er vigtige – nationalt såvel som internationalt.
Udbredelsen og tilgængeligheden af AI-teknologien betyder, at AI i stigende grad bruges til at begå digitale krænkelser og overgreb. Kvaliteten af AI-genereret materiale er så høj, at det bliver stadig mere vanskeligt at gennemskue, om det er ægte eller skabt ved hjælp af kunstig intelligens. Fx er det med få klik muligt – med de såkaldte nudify-apps – at omdanne et hverdagsbillede til et falsk nøgenbillede.
I Red Barnets SletDet Rådgivning søger flere og flere børn og unge hjælp efter at have oplevet digitale krænkelser med computer eller AI- manipuleret indhold. Antallet af sager, hvor AI er involveret, har været stigende gennem flere år.
Rådgivningen oplever også, at AI forstærker og forfiner de metoder, som anvendes i forbindelse med digitale krænkelser. Det gælder især sager om afpresning for intimt materiale, hvor formålet er økonomisk gevinst.
De udenlandske afpressere bruger også AI-oversættelsesværktøjer til at kommunikere på dansk med børn og unge – og oversættelserne til dansk bliver bedre og bedre, og dermed mere overbevisende, på grund af de store sprogmodellers fremkomst.
AI og især chatbots spiller en voksende rolle i børn og unges digitale liv. En personificeret chatbot kan tilbyde omsorg, kontakt og interesse og er altid klar til at komme med råd og sørge for, at barnet aldrig føler sig alene. Kunstig intelligens udnytter dermed barnets behov for bekræftelse, anerkendelse og tilknytning.
Det kan være lettere at stille spørgsmål om svære eller følsomme emner til en chatbot end til en voksen, og for nogle unge kan det føles mindre grænseoverskridende end at tale med forældre eller lærere.
Chatbots er udtryk for en ny form for tilknytningsøkonomi, hvor sociale erfaringer og relationer bliver kommercialiseret. Teknologien er designet til at fastholde opmærksomhed og skabe engagement med henblik på at indsamle data til et kommercielt formål.
Børn og unge risikerer at dele personlige oplysninger, der kan blive misbrugt, og at få råd og vejledning, der kan være misvisende eller skadelig for deres mentale helbred. Teknologien kan også fastholde unge i uhensigtsmæssige tankemønstre.
Det er åbenlyst, at mange AI-chatbots er udviklet uden at skele til børns behov eller sikkerhed. Vi mangler viden om de langsigtede konsekvenser. Hvis børn og unge har adgang til chatbots, skal de selvfølgelig være trygge og sikre.
Der er grund til en særlig bekymring for børn i udsatte positioner. De kan i højere grad end andre være ramt af fx ensomhed og dermed være i risiko for at blive afhængige af digitale relationer, hvis de mangler analoge fællesskaber med jævnaldrende og voksne at gå til.
Det er en forudsætning for et velfungerende demokrati, at borgerne kan skelne mellem sand og falsk information.
Fremkomsten af AI accellererer de demokratiske udfordringer udfordringer ved misinformation. Pludselig kan alle lynhurtigt manipulere billeder og skabe og sprede kunstigt virkelighedstro materiale.
Sociale mediers algoritmer belønner de mest konfliktskabende holdningstilkendegivelser. De vægtes højere end oplysning og sandfærdighed. Det kan skabe ekkokamre, hvor man ikke møder kritiske og nuancerede perspektiver, som udfordrer egne holdninger, og det kan i sidste ende føre til øget radikalisering og polarisering.
Børn og unge, der er i gang med at udvikle deres kritiske sans, er særligt i risiko for at blive genstand for misinformation og skjult påvirkning. Og ikke alle har forældre eller andre trygge voksne, der kan hjælpe med at navigere og sortere i sand og falsk information. Der er derfor en social slagside, hvor børn i sårbare positioner i særlig høj grad risikerer at blive udsat for påvirkning.
Generativ AI er også rykket ind i klasseværelset og hjemme ved køkkenbordet som lektiehjælper. Når man på få sekunder kan få lavet en dansk stil eller en biologirapport, rejser det spørgsmål om, hvad det egentlig vil sige at lære, forstå og mestre noget selv.
Brug af AI i skolen peger på en grundliggende problematik: Risikoen for, at børn og unges nysgerrighed, kreativitet og tro på egne evner svækkes, hvis teknologien bliver en genvej, der erstatter fordybelse og selvstændig tænkning. Elevers brug af sprogmodeller kan føre til overfladisk læring, og at man ikke bliver trænet i selv at analysere et digt eller løse en ligning.
Usikkerheden mærkes allerede blandt unge. En undersøgelse fra Danmarks Evalueringsinstitut viser, at omkring en tredjedel af gymnasieeleverne, der bruger AI til skolearbejde, er bekymrede for, at det går ud over deres egen læring i fremtiden, og oplever at det gør dem mere dovne, og at de kan blive afhængige.
Fremtiden er digital, men dannelse er tidløs. Elever skal lære at bruge kunstig intelligens. Men ikke på bekostning af de selvstændige kompetencer, der også er en forudsætning for at kunne bruge teknologien konstruktivt og kritisk.
Samtidig styrker AI behovet for andre kompetencer. Det gælder fx evnen til kritisk at kunne vurdere, udvælge og sammensætte de tekster, der genereres på en hensigtsmæssig og retvisende måde.
Hvordan arbejder Red Barnet for at sikre børn og unge, når kunstig intelligens bliver en del af hverdagen?
Red Barnet arbejder allerede aktivt med at beskytte børn og unge i en digital hverdag – og det arbejde omfatter også kunstig intelligens (AI). Arbejdet kan groft opdeles i fire områder:
- Vi prøver at lægge pres på techgiganterne for at få dem til at ændre praksis og beskytte børn og unge bedre.
- Vi samarbejder med platformene og fungerer som ‘trusted flagger’ .
- Vi forebygger gennem vidensdeling som fx undervisningsmaterialer.
- Og vi hjælper med SletDet Rådgivningen, hvis skaden er sket. Her kan børn og unge få støtte og hjælp, hvis de har oplevet noget ubehageligt online.
En central del af Red Barnets arbejde er at sikre, at teknologi designes og reguleres med børn i centrum. Red Barnet arbejder for lovgivning, især på EU-niveau, fordi det er her, techgiganterne reelt kan reguleres. (Se mere om dette under punktet ‘Det mener Red Barnet’ længere nede på siden).
Red Barnet er også en del af større alliancer med organisationer, der vil udfordre techgiganters praksisser og blandt andet begrænse målrettet indhold til børn.
Red Barnet arbejder også direkte med de digitale platforme, da vi er udpeget som officiel ‘trusted flagger’ (pålidelig indberetter) via EU’s Digital Services Act (DSA), hvilket betyder, at vi kan få ulovligt indhold fjernet hurtigere.
Det betyder, at platforme som Meta, TikTok og Snapchat er forpligtet til at prioritere Red Barnets anmeldelser af ulovligt indhold. Dermed går vi fra ‘blot’ en civilsamfundsstemme til en aktør med formel håndhævelsesmagt over for techplatforme.
Red Barnet arbejder meget med at forberede børn, forældre og fagpersoner på digitale risici – nu også AI. Derfor har vi gennem de seneste mange år udviklet en række undervisningsmaterialer til grundskole og ungdomsuddannelser, der handler om de udfordringer, dilemmaer og ubehagelige oplevelser som – også – er en del af de unges digitale verden.
Sammen med Medierådet for børn og unge, Børns Vilkår og Center for Digital Pædagogik har Red Barnet udviklet On-undervisning, en platform for læring og dialog, der blandt andet rummer et stort katalog over gratis og kuraterede undervisningsmaterialer. Digital dannelse er et centralt begreb for platformen. Det bygger på syv bærende principper, fx privatliv og sikkerhed, digitale forretningsmodeller og digitale krænkelser og skadeligt indhold.
Besøg On-undervisning
Red Barnet Skole og dagtilbud har ligeledes en række gratis materialer til grundskolen, der har til formål at gøre eleverne bevidste og kritiske i forhold til deres egen og andres digitale adfærd.
Når noget går galt, griber Red Barnet ind konkret. Red Barnets SletDet rådgivning taler hver dag med børn og unge, der har været ude for digitale krænkelser og ubehagelige oplevelser på nettet.
Antallet af sager, hvor AI er involveret, når børn og unge har oplevet digitale krænkelser, afpresning og svindel, har været stigende gennem flere år.
Vores rådgivere oplever, at AI forstærker og forfiner de metoder, som anvendes i forbindelse med digitale krænkelser, fx i sager om afpresning for intimt materiale. Det betyder, at unge for sværere ved at forstå og gennemskue situationer, hvor de har en risiko for at blive udsat for fx afpresning.
International konference om kunstig intelligens og børn
Den 12. maj afholdes ‘Copenhagen Summit – Keeping our Children and Families Safe in the AI Era’ på Christiansborg. Den er arrangeret af tidligere EU-kommissær Margrethe Vestager, Common Sense Media og Red Barnet.
Ambitionen er at sætte en ny retning for den digitale børnebeskyttelse i en tid, hvor AI fylder mere og mere i børn og unges liv. De tre arrangører håber, at konferencen vil skabe et stærkt fundament for politisk handling for at sikre børns ret til et trygt og godt
digitalt liv i en verden, hvor ny AI-teknologi i stigende grad påvirker deres liv.
På konferencen deltager globale beslutningstagere, eksperter og erhvervsledere, blandt andet Europa-Kommissionens formand, Ursula von der Leyen, fungerende statsminister Mette Frederiksen og den tidligere amerikanske udenrigsminister Hillary Clinton (via videolink).
National konference om AI og børnebeskyttelse
I september 2026 afholder Red Barnet sammen med TrygFonden en konference i København med fokus på børn og AI. Her vil fokus være på AI’s påvirkning af den digitale børnebeskyttelse, og hvordan Folketinget og EU kan spille en rolle i at tage denne udfordring alvorligt i tide. Konferencen er særligt målrettet fagpersoner, der arbejder tæt på børn og unge i deres hverdag, og personer, der arbejder politisk med digital børnebeskyttelse.
Det mener Red Barnet om børn, unge og kunstig intelligens
Børn og unge har ret til et trygt og godt digitalt liv og fremtid. Derfor anbefaler Red Barnet, at en kommende regering omgående skal tage initiativ til følgende tiltag for at sikre børns sikkerhed og trivsel i en AI-æra .
Regeringen bør nedsætte en hurtigt arbejdende arbejdsgruppe, som kan undersøge, hvordan vi nationalt, eller i EU, kan indføre krav til, at der skal foreligge dokumentation for, at ny AI-teknologi, som direkte eller indirekte gøres tilgængeligt for børn, ikke er skadeligt for dem.
Hvis der hersker tvivl om skadevirkningen, bør tvivlen komme børnene til gode, indtil det kan bevises, at produktet er sikkert for børn.
Vi har sovet i timen, når det kommer til regulering af Chatbots. Vi skal stille krav til aldersverifikation, så vi kan sikre alderssvarende indhold. Og så skal vi forbyde indsamling af børns data til kommercielle formål og skjulte reklamer.
Der mangler regler om afhængighedsskabende designs og den måde, AI kan påvirke børns adfærd over tid. Der er heller ikke tilstrækkelige krav til, hvordan chatbots skal håndtere sårbare eller kritiske situationer, hvor børn søger råd. Det betyder, at børn i dag i praksis kan påvirkes – uden at det er ulovligt.
Gør teknologiforståelse obligatorisk i skolerne, så alle børn og unge får en fair chance for at kende deres rettigheder online, risici ved kommercielle platforme og deres handlemuligheder hvis de kommer til skade online.
I marts 2024 blev det aftalt politisk at indføre teknologiforståelse som nyt valgfag og som en faglighed i udvalgte fag fra skoleåret 2027/2028. Vi opfordrer regeringen til at skrue op for ambitionerne – for alle elever.
AI udfordrer vores grundlæggende forståelser af børn og unges dannelse og udvikling. Der er brug for mere konkrete initiativer fra centralt hold, som sikrer, at brugen af AI i folkeskolen understøtter både den almen og digital dannelse.
Red Barnet anbefaler, at regeringen etablerer et advisory board bestående af eksperter i AI og didaktik samt repræsentanter fra undervisningssektor og børneorganisationer. Advisory boardet skal rådgive regeringen om behov for nye beslutninger og tiltag i takt med, at teknologien udvikler sig.
