Ny rapport: Barns syn på AI-genererade nakenbilder

I en ny undersökning från Ecpat om barns syn på så kallade nudify-appar (AI-verktyg som kan manipulera påklädda bilder till nakenbilder) uttrycker barn en växande oro. Många anser att tekniken bör förbjudas och efterfrågar tydliga åtgärder från vuxenvärlden.

En ny rapport från Ecpat om barns syn på AI och nudify-verktyg visar att motståndet mot tekniken är starkt. Rapporten har tagits fram efter att Ecpat sett en ökning av barn som kontaktar stödlinjen efter att ha utsatts för AI-genererade nakenbilder och filmer som använts för hot och utpressning. Även om det fortfarande är relativt få barn som drabbats i Sverige är kännedomen om tekniken utbredd.

Många barn och unga vet vad nudify-verktyg är, hur de används och vilka konsekvenser de kan få. De beskriver en stark frustration över att tekniken gör deras digitala miljöer mindre trygga. Möjligheten att umgås, utvecklas och delta i samhällsdebatten på sociala plattformar påverkas på ett negativt sätt.

Barnen tar tydligt avstånd från användningen av nudify-appar och många anser att de bör förbjudas. Till skillnad från annan ny teknik, som ofta möts med nyfikenhet, möts nudify-verktyg av motstånd.

Samtidigt visar rapporten en viktig utveckling – allt fler barn tycker att man ska vända sig till vuxenvärlden för stöd. De uttrycker en tydlig förväntan på ansvar och handling och de har en ökad tilltro till att vuxna kan göra skillnad.

– Vi har en unik position genom vår stödlinje och våra undersökningar, där vi kan upptäcka nya fenomen tidigt. Det här är ett växande hot och barnen ser det, säger Anna Karin Hildingson Boqvist, generalsekreterare på Ecpat.

Kategorier

Relaterade artiklar

”Lita inte på folk” – en rapport om barns brottsutsatthet på nätet

Ecpats årliga undersökning Nude på nätet visar ett tydligt trendbrott: barns utsatthet för sexualbrott på nätet minskar. Mycket tyder dock på att det är barnen, snarare än internet och förövarna, som har förändrats. För första gången sedan Ecpat började genomföra undersökningen Nude på nätet ser vi en minskning av barns utsatthet för sexuella övergrepp.

Läs mer

Föräldramöte om sextortion – se mötet i efterhand

Under sommaren såg Ecpat en kraftig ökning av sextortion (sexuell utpressning) mot barn. I juni, juli och augusti fördubblades antalet ärenden jämfört med samma månader förra året. Hur går sextortion till? Varför är pojkar särskilt utsatta? Hur kan vi vuxna agera för att förebygga och hjälpa när ett barn har drabbats?

Läs mer

Ecpat i siffror: Vad gör Ecpat Hotline?

Varje år tar Ecpat Hotline emot tiotusentals rapporter om misstänkt sexuellt övergreppsmaterial på barn. Verksamheten fyller ett tomrum som ingen annan aktör i Sverige idag täcker – både för barn som akut behöver hjälp och för samhällets förmåga att identifiera, stoppa och förebygga sexualbrott mot barn på nätet. Ecpats team av analytiker granskar inkomna tips […]

Läs mer

Ecpat på plats i FN:s kvinnokommission

Världen samlas varje år i New York för FN:s kvinnokommission, Commission on the Status of Women (CSW) – den största globala arenan för jämställdhetsfrågor. Årets möte präglades av ökade motsättningar mellan länder, samtidigt som frågor om digitalt våld mot kvinnor och flickor fick utrymme. Under två veckor i mars samlas beslutsfattare, experter och kvinnorättsorganisationer från […]

Läs mer