Den senaste tiden har de analytiker som jobbar på Ecpat Hotline som granskar material upptäckt en ökning av tips som innehåller AI-genererade nakenbilder- och filmer. Samma lagar som vid egenproducerade sexuella foton gäller även vid AI-genererat material.
AI-verktyg kan användas till att manipulera existerande bilder eller för att skapa helt nya bilder. Vissa förövare utnyttjar den tekniska möjligheten till att skapa övergreppsmaterial. Sedan slutet av 2022 och framåt har Ecpat Hotlines analytiker noterat en snabb utveckling i det AI-genererade övergreppsmaterialets fotorealism. Detta kan få katastrofala konsekvenser då barn som redan har utsatts för spridning av nakenbilder tidigare kan behöva uppleva detta igen när nytt material sprids som genererats av den originella bilden eller filmen. Det kan till exempel handla om att en bild som skildrar sexuell posering manipuleras till att skildra ett sexuellt övergrepp. Även andra bilder på barn som tidigare inte varit sexuella används ibland för att skapa olika typer av sexuellt material via de AI-verktyg som finns.
Fler barn blir utsatta för hot
Rådgivarna på Ditt Ecpat har även noterat en ökning av barn som rapporterar att de blir utsätta för hot om spridning av AI-genererade nakenbilder om de inte själva skickar egenproducerade nakenbilder eller betalar pengar. I vissa fall har spridningen redan skett när barnet kontaktar oss.
AI och grooming
Med hjälp av AI kan vuxna allt lättare utge sig själva för att vara barn. Den vuxna kan ta hjälp av AI verktyg för att själva använda samma språk som dagens barn använder, eller använda funktionerna för att skapa en falsk identitet som barnet förlitar sig på. Detta gör att det blir lättare för förövaren att komma åt barnet på ett sätt som gör att barnet känner ett så pass gott förtroende att hen skickar nakenbilder, då barnet ofta tror att hen pratar med en jämnårig.
Samma lagar gäller
Samma lagar gäller vid AI-genererat övergreppsmaterial mot barn som vid övergreppsmaterial mot barn där AI inte har använts. Detta innebär att det är olagligt att titta på, sprida, hota om att sprida, skapa eller skicka AI-generat övergreppsmaterial som föreställer barn. Om ditt barn blir utsatt för något av detta har ni rätt att göra en polisanmälan. Ring 11414 eller besök en polisstation. Man behöver inte vara säker på att det är ett brott för att göra en polisanmälan. En anmälan kan stoppa förövarna och göra att andra barn inte utsätts. Du kan läsa mer om hur en polisanmälan går till här.
Hur vi på Ecpat kan hjälpa till
Vi på Ecpat arbetar för att stoppa alla typer av sexuell exploatering av barn. Vi är vana med att prata med barn om sexuella övergrepp, samtycke, åldersskillnad och nakenbilder. Vi kan hjälpa barn att ta ned nakenbilder som sprids på internet, samt de konton som sprider bilderna genom vår kontakt med barnen på Ditt Ecpat. Därmed kan vi även hjälpa barnen att ta ned AI-genererade bilder som sprids. Både barn och vuxna kan ge tips till Ecpat Hotline om de hittar en AI-genererad nakenbild som föreställer ett barn, så att vi även där kan försöka ta ned bilder. Du kan läsa mer om hur vi jobbar med nedtagningar här.
Tips till dig som vuxen:
Berätta för ditt barn om vilka lagar och regler som gäller för sex på nätet. Läs mer om det här.
Om barnet har blivit hotat, fått oönskade nakenbilder eller fått nakenbilder spridda är det aldrig barnets fel. Bli inte arg
Var tydlig med att barnet alltid kan komma till dig om hen vill prata
Hota aldrig med mobilförbud eller appförbud – det kan göra att barnet inte vågar berätta för dig när något har hänt.
Polisanmäl om ditt barn har blivit utsatt för brott – det är inte mindre allvarligt för att det skett online. Ring 11414 eller besök en polisstation. En anmälan kan stoppa förövarna och göra att andra barn inte utsätts.
Om du själv hittar en AI-genererad nakenbild som föreställer ett barn kan du lämna ett tips till Ecpat Hotline.
Om nakenbilder eller nakenfilmer av ett barn sprids på internet
En av de vanligaste orsakerna till att barn kontaktar oss via vår stödlinje Ditt Ecpat är för att barnets nakenbilder har spridits på internet. Det kan handla om ett bråk vid slutet av en kärleksrelation, vuxna förövare som lurat barnet eller bilder och filmer som sprids på ett exposekonto. Bilderna kan ha skickats frivilligt i […]
Många barn och unga som kontaktar Ditt Ecpat delar erfarenheter av sexuella övergrepp i sina parrelationer. Det rör sig om olika typer av övergrepp, exempelvis hot eller tjat om sex och spridning av nakenbilder. Barnen som hör av sig till oss berättar att de känner sig pressade att göra saker som de inte vill på […]
I Ecpats stödlinje för barn och unga möter vi många barn som utsatts för sexuell utpressning. Pojkar berättar om hur de övertalats eller lurats att skicka nakenbilder till vad de tror är en jämnårig person. När bilderna är skickade kommer hot om att bilderna ska spridas om de inte betalar. Flickor kontaktar oss och berättar […]
I Ecpats stödlinje Ditt Ecpat möter vi många barn och unga som hängts ut på exposekonton – konton på sociala medier som sprider sexuellt kränkande foton och filmer. Genom Ditt Ecpat kan vi ge stöd och i många fall även hjälpa till att ta ner bilderna som sprids. Hjälp oss sprida kunskapen! Beställ våra affischer […]