Artificiell intelligens, AI

Med den snabba utvecklingen av artificiell intelligens växer också insikten om behovet av reglering för att skydda människor från risker som skada och diskriminering. Ett tydligt exempel är Nederländerna, där regeringen 2021 tvingades avgå efter att skattemyndigheten använt ett AI-baserat system som felaktigt klassade tiotusentals personer som bidragsfuskare. För många av de drabbade ledde detta till allvarliga konsekvenser, vilket underströk de potentiellt katastrofala följderna av bristande kontroll över AI-system.

Risk för systematisk exkludering 

I Sverige har Diskrimineringsombudsmannen lyft fram riskerna med AI-baserade verktyg för urval i rekryteringsprocesser. Det är väl känt att dessa verktyg kan reproducera eller förstärka existerande fördomar, vilket kan medföra att exempelvis personer med funktionsnedsättning systematiskt sorteras bort från sökta jobb.

Taligenkänningsteknik används dessutom alltmer inom kundsupport. Den bristande tillförlitligheten för personer som talar på ett ”annorlunda” sätt, till exempel på grund av afasi, hörselnedsättning, brytning eller dialekt, pekar på behovet av mer inkluderande lösningar. Otillräcklig taligenkänning kan göra det svårt för vissa att få rätt hjälp och förstärker därmed deras exkludering från viktiga tjänster.

Funktionsrätt Sverige vill:

• Att det säkerställs att data och algoritmer inte skapar bias mot eller diskriminerar vissa grupper
• Att funktionsrättsrörelsen får resurser för att öka kompetensen om AI 
• Att krav ställs på involvering av användare och icke-användare vid offentlig upphandling och i forskning och utveckling

Läs mer

Den europeiska funktionsrättsörelsens verktygslåda för arbete med AI utifrån den nya AI-förordningen