Bias i AI-genererade bilder

Om bias i AI-genererade bilder

Grunderna för bias i AI-genererade bilder

• Förstärkning av stereotyper: AI-modeller tränas på stora mängder data. Om denna data innehåller stereotyper eller diskriminerande innehåll, kommer AI-modellen att lära sig att reproducera dessa. Till exempel kan en AI-modell som tränats på bilder som främst visar män i ledande positioner generera bilder som fortsätter att förstärka denna stereotyp.
• Diskriminering: Bias kan leda till diskriminering i olika sammanhang. Till exempel kan en AI-modell som används för att rekrytera personal generera bilder som främst visar personer från en viss etnisk bakgrund eller kön, vilket kan påverka rekryteringsprocessen negativt.
• Falsk representation: AI-genererade bilder kan skapa en falsk bild av verkligheten. Om en viss grupp människor är underrepresenterade i träningsdata, kommer AI-modellen att generera färre bilder som representerar denna grupp.
• Förtroende för AI: Bias kan undergräva förtroendet för AI-tekniken. Om människor inser att AI-modeller kan generera biased innehåll, kan de bli mindre benägna att lita på resultaten från dessa modeller.

Exempel på bias i AI-genererade bilder

• Rasism: AI-modeller har visat sig generera bilder som associerar vissa människor med negativa stereotyper eller kriminella aktiviteter.
• Sexism: AI-modeller kan generera bilder som sexualiserar kvinnor eller begränsar deras representation till traditionella könsroller.
• Ålderism: AI-modeller kan generera bilder som diskriminerar äldre personer genom att framställa dem som mindre kapabla eller attraktiva.

Exempel på bias som kan illustreras med bilder

• En bildsökning på ”CEO” ger främst bilder på vita män i kostym. Detta förstärker stereotypen att ledande befattningar främst innehas av vita män.
• En bildsökning på ”vetenskapsman” visar oftast en man i en vit labbrock. Detta kan bidra till att upprätthålla könsstereotyper inom vetenskapen.
• En bildsökning på ”kriminell” kan visa en överrepresentation av personer med mörk hudfärg. Detta förstärker rasistiska stereotyper.

Övningar

Övning 1: Bildanalys

• Material: En samling AI-genererade bilder som visar olika typer av bias (exempelvis rasism, sexism, ålderism).
• Genomförande: Dela in eleverna i grupper och ge varje grupp ett antal bilder. Be dem analysera bilderna och diskutera följande frågor:
  • Vilka stereotyper eller fördomar framställs i bilderna?
  • Vilka grupper är underrepresenterade eller missrepresenterade?
  • Hur kan dessa bilder påverka samhället och individer?
  • Hur tror ni att dessa bilder skapades? Vilken typ av data tror ni att AI-modellen tränades på?

Övning 2: Skapa egna AI-bilder

• Material: Adobe Express för att generera bilder.
• Genomförande: Låt eleverna experimentera med att skapa egna AI-bilder. Be dem först försöka skapa bilder som förstärker existerande stereotyper. Därefter kan de försöka skapa bilder som utmanar dessa stereotyper.
• Diskussion: Efteråt kan ni diskutera vilka utmaningar de stötte på och vilka slutsatser de drog.

Övning 3: Debatt

• Material: Olika argument för och emot användningen av AI-genererade bilder.
• Genomförande: Dela in eleverna i två grupper. Den ena gruppen ska argumentera för att användningen av AI-genererade bilder bör begränsas på grund av risken för bias. Den andra gruppen ska argumentera för att AI-genererade bilder kan användas på ett positivt sätt.
• Diskussion: Efter debatten kan ni diskutera vilka åtgärder som kan vidtas för att minska risken för bias i AI-genererade bilder.