Som en del av den digitala strategin vill EU reglera artificiell intelligens (AI). Detta för att säkerställa bättre villkor för utveckling och användning av denna teknik.
– AI kan i många sammanhang vara till stor fördel och hjälp, men det finns även oerhört stora risker med tekniken, inte minst när det gäller barns utsatthet på nätet. Det är därför viktigt med en reglering som sätter krav på de som skapar AI-system och regler som också faktiskt förbjuder vissa typer av system, säger Elin Enlund, jurist på Ecpat.
Kortfattat kan AI förklaras som en maskins förmåga att visa människoliknande drag – såsom resonerande, inlärning, planering och kreativitet. Ett exempel på AI är den välkända tjänsten ChatGPT. AI kan medföra många fördelar som bättre hälso- och sjukvård, effektivare brottsbekämpningsverktyg och billigare och mer hållbar energi. AI kan dock även medföra många risker och faror. Det har exempelvis blivit allt vanligare med AI-genererat övergreppsmaterial, vilket vi på Ecpat stöter på i vår hotlineverksamhet.
I april 2021 föreslog kommissionen EU:s första regelverk för AI. Den 13 juni 2024 antogs regleringen av Europaparlamentet och Europeiska unionens råd. Enligt förordningen ska AI-system analyseras och klassificeras utifrån den risk de utgör för användaren. Utifrån vilken risknivå ett system har innebär det antingen mer eller mindre skyldigheter för leverantörer och användare. Förordningen är världens första lagstiftning om AI.
I regleringen delas systemen in i kategorierna oacceptabel risk, hög risk eller begränsad risk. AI-system med oacceptabel risk är system som anses utgöra hot mot människor och ska förbjudas enligt lagstiftningen. Det kan till exempel handla om kognitiv beteendemanipulation av personer eller specifika sårbara grupper. Generell, generativ AI, såsom. ChatGPT, anses i flesta fallen som ett system med begränsad risk och då måste systemet uppfylla vissa krav vad gäller transparens. Systemet ska exempelvis utformas för att hindra att den genererar olagligt innehåll. Aktörer som inte efterlever den föreslagna lagstiftningen riskerar upp till 30 miljoner euro i böter.
Ecpat har under en längre tid sett att AI-genererat övergreppsmaterial är ett växande problem och orsakar stor skada och risker för barn. Förslag från EU som sätter krav på AI-system är därför något vi på Ecpat välkomnar.
– Det är glädjande att det nu finns en gemensam reglering vad gäller AI inom hela EU. Tekniken känner sällan till landgränser och därför är det viktigt med en harmoniserad reglering inom hela EU för att bäst säkerställa barns trygghet på nätet, säger Elin Enlund.
AI-genererat övergreppsmaterial är något ECPAT Hotline sett under en längre tid. Under de två senaste åren har det blivit alltmer fotorealistiskt. Under de här åren har vi också fått större insikter om vilka risker AI-genererat övergreppsmaterial innebär för barn. AI-verktyg kan användas till att manipulera existerande bilder eller för att skapa helt nya bilder. Vissa […]
Enligt en ny rapport från FN ökar användandet av teknik för att sexuellt utnyttja och begå övergrepp mot barn. Rapporten, som är skriven av Mama Fatima Singhateh – FN:s särskilda rapportör om sexuell exploatering av barn – lyfter fram både existerande och nya former av övergrepp i den digitala miljön. Var tredje internetanvändare är ett […]
Ecpat har fått möjlighet att yttra sig över utredningen ”Ut ur utsatthet” som föreslår ett program för barn som utsatts för sexuell exploatering och människohandel för sexuella ändamål. Vi ställer oss positiva till att frågan om rätt stöd och hjälp till utsatta barn utreds, men har synpunkter på utformningen av programmen. Utredningen belyser behovet av […]
Den 1 augusti 2022 började en ändring av sexualbrottslagstiftningen gälla – en ändring som Ecpat Sverige kämpat för länge. Ändringen av lagstiftningen innebar att sexuella övergrepp som sker på distans, framför allt över nätet, inte längre krävde att förövaren var med i realtid när ett barn blev utsatt för brott. Även innan ändringen av sexualbrottslagstiftningen […]