Som en del av den digitala strategin vill EU reglera artificiell intelligens (AI). Detta för att säkerställa bättre villkor för utveckling och användning av denna teknik.
– AI kan i många sammanhang vara till stor fördel och hjälp, men det finns även oerhört stora risker med tekniken, inte minst när det gäller barns utsatthet på nätet. Det är därför viktigt med en reglering som sätter krav på de som skapar AI-system och regler som också faktiskt förbjuder vissa typer av system, säger Elin Enlund, jurist på Ecpat.
Kortfattat kan AI förklaras som en maskins förmåga att visa människoliknande drag – såsom resonerande, inlärning, planering och kreativitet. Ett exempel på AI är den välkända tjänsten ChatGPT. AI kan medföra många fördelar som bättre hälso- och sjukvård, effektivare brottsbekämpningsverktyg och billigare och mer hållbar energi. AI kan dock även medföra många risker och faror. Det har exempelvis blivit allt vanligare med AI-genererat övergreppsmaterial, vilket vi på Ecpat stöter på i vår hotlineverksamhet.
I april 2021 föreslog kommissionen EU:s första regelverk för AI. Den 13 juni 2024 antogs regleringen av Europaparlamentet och Europeiska unionens råd. Enligt förordningen ska AI-system analyseras och klassificeras utifrån den risk de utgör för användaren. Utifrån vilken risknivå ett system har innebär det antingen mer eller mindre skyldigheter för leverantörer och användare. Förordningen är världens första lagstiftning om AI.
I regleringen delas systemen in i kategorierna oacceptabel risk, hög risk eller begränsad risk. AI-system med oacceptabel risk är system som anses utgöra hot mot människor och ska förbjudas enligt lagstiftningen. Det kan till exempel handla om kognitiv beteendemanipulation av personer eller specifika sårbara grupper. Generell, generativ AI, såsom. ChatGPT, anses i flesta fallen som ett system med begränsad risk och då måste systemet uppfylla vissa krav vad gäller transparens. Systemet ska exempelvis utformas för att hindra att den genererar olagligt innehåll. Aktörer som inte efterlever den föreslagna lagstiftningen riskerar upp till 30 miljoner euro i böter.
Ecpat har under en längre tid sett att AI-genererat övergreppsmaterial är ett växande problem och orsakar stor skada och risker för barn. Förslag från EU som sätter krav på AI-system är därför något vi på Ecpat välkomnar.
– Det är glädjande att det nu finns en gemensam reglering vad gäller AI inom hela EU. Tekniken känner sällan till landgränser och därför är det viktigt med en harmoniserad reglering inom hela EU för att bäst säkerställa barns trygghet på nätet, säger Elin Enlund.
Ecpats nya rapport ”Det finns bra personer också men var är de?” visar på en omfattande brist på tillit till polis och socialtjänst bland barn. Särskilt lågt förtroende har de barn som själva haft kontakt med polis eller socialtjänst. Rapporten bygger på Ecpats årliga undersökning “Nude på nätet” från 2024, där över 1200 barn mellan […]
Ecpat ser dagligen hur omfattande spridningen av dokumenterade sexuella övergrepp på barn är – det vill säga sådant material som rimligen bör falla under det som olyckligt än idag heter barnpornografibrott i svensk lagstiftning. Ofta faller dock inte spridningen av övergreppsmaterial på barn under det brottet. Detta på grund av att bestämmelsen i 16 kap. […]
Ecpats tipslinje, Ecpat Hotline, är en webbsida dit allmänheten kan rapportera om misstankar om sexuell exploatering och övergrepp mot barn. Det kan handla om bilder eller filmer på nätet, människohandel med barn för sexuella syften eller tips på barn som utsätts för sexuella övergrepp, både i Sverige och utomlands. Sedan flera år tillbaka samarbetar Ecpat […]
Som barnrättsorganisation som arbetar för att stoppa sexuella övergrepp mot barn, välkomnar vi Uppdrag Gransknings reportage ”Vapes mot sex”. Reportaget lyfter en viktig fråga – om hur barn och unga utnyttjas sexuellt mot ersättning i form av pengar, presentkort, narkotika, alkohol eller som det lyfts i reportaget, vapes. Vi på Ecpat har under många år, […]