EU:s AI-lagstiftning – ett steg mot ett säkrare internet för barn

Som en del av den digitala strategin vill EU reglera artificiell intelligens (AI). Detta för att säkerställa bättre villkor för utveckling och användning av denna teknik. 
– AI kan i många sammanhang vara till stor fördel och hjälp, men det finns även oerhört stora risker med tekniken, inte minst när det gäller barns utsatthet på nätet. Det är därför viktigt med en reglering som sätter krav på de som skapar AI-system och regler som också faktiskt förbjuder vissa typer av system, säger Elin Enlund, jurist på Ecpat.

Kortfattat kan AI förklaras som en maskins förmåga att visa människoliknande drag – såsom resonerande, inlärning, planering och kreativitet. Ett exempel på AI är den välkända tjänsten ChatGPT. AI kan medföra många fördelar som bättre hälso- och sjukvård, effektivare brottsbekämpningsverktyg och billigare och mer hållbar energi. AI kan dock även medföra många risker och faror. Det har exempelvis blivit allt vanligare med AI-genererat övergreppsmaterial, vilket vi på Ecpat stöter på i vår hotlineverksamhet. 

Världens första lagstiftning om AI

I april 2021 föreslog kommissionen EU:s första regelverk för AI. Den 13 juni 2024 antogs regleringen av Europaparlamentet och Europeiska unionens råd. Enligt förordningen ska AI-system analyseras och klassificeras utifrån den risk de utgör för användaren. Utifrån vilken risknivå ett system har innebär det antingen mer eller mindre skyldigheter för leverantörer och användare. Förordningen är världens första lagstiftning om AI.

Delas in efter risk

I regleringen delas systemen in i kategorierna oacceptabel risk, hög risk eller begränsad risk. AI-system med oacceptabel risk är system som anses utgöra hot mot människor och ska förbjudas enligt lagstiftningen. Det kan till exempel handla om kognitiv beteendemanipulation av personer eller specifika sårbara grupper. Generell, generativ AI, såsom. ChatGPT, anses i flesta fallen som ett system med begränsad risk och då måste systemet uppfylla vissa krav vad gäller transparens. Systemet ska exempelvis utformas för att hindra att den genererar olagligt innehåll. Aktörer som inte efterlever den föreslagna lagstiftningen riskerar upp till 30 miljoner euro i böter. 

Ecpat välkomnar lagstiftningen

Ecpat har under en längre tid sett att AI-genererat övergreppsmaterial är ett växande problem och orsakar stor skada och risker för barn. Förslag från EU som sätter krav på AI-system är därför något vi på Ecpat välkomnar.
– Det är glädjande att det nu finns en gemensam reglering vad gäller AI inom hela EU. Tekniken känner sällan till landgränser och därför är det viktigt med en harmoniserad reglering inom hela EU för att bäst säkerställa barns trygghet på nätet, säger Elin Enlund. 

Relaterade artiklar

Tydligt i reportaget ”Vapes mot sex” – vuxna måste börja lyssna på barnen

Som barnrättsorganisation som arbetar för att stoppa sexuella övergrepp mot barn, välkomnar vi Uppdrag Gransknings reportage ”Vapes mot sex”. Reportaget lyfter en viktig fråga – om hur barn och unga utnyttjas sexuellt mot ersättning i form av pengar, presentkort, narkotika, alkohol eller som det lyfts i reportaget, vapes. Vi på Ecpat har under många år, […]

Läs mer

Instagram lanserar ”tonårskonton” – en trygghet för barn eller ökad föräldrakontroll?  

Meta, företaget bakom Instagram, gick nyligen ut med nyheten att de ska införa särskilda så kallade tonårskonton, som riktar sig till alla barn under 18 år. De nya tonårskontona blir privata, vilket innebär att okända personer inte längre kan skicka meddelanden till tonåringar. Dessutom får föräldrar tillgång till information om vilka barnet har kommunicerat med. […]

Läs mer

Ecpat bidrar till granskningen av Sverige i FN 

Nästa år är det dags för granskning av mänskliga rättigheter i Sverige. Inom ramen för FN:s råd för mänskliga rättigheter granskas världens länder regelbundet av varandra och får besvara frågor och ta emot rekommendationer (så kallad UPR, Universal Periodic Review). Som flera andra civilsamhällesorganisationer har Ecpat skickat in en rapport som utgör en del av […]

Läs mer

Ta snacket, även om det som är svårt och obekvämt

Att föräldrar och andra vuxna är engagerade i barns liv, både på och utanför nätet, är avgörande för barns trygghet. Men det är inte alltid lätt att veta hur du som vuxen ska agera och prata utan att kränka barnets integritet och nyfikenhet. I foldern ”Ta snacket” delar Ecpat med sig av tips och råd.– […]

Läs mer