Hoe queer is kunstmatige intelligentie?
AI speelt een steeds belangrijke rol in ons leven, maar dat is niet zonder gevaar. Eduard Fosch-Villaronga van eLaw waarschuwt dat AI niet genoeg aandacht besteedt aan de LGBTQ-gemeenschap.
Eduard Fosch-Villaronga, universitair hoofddocent bij eLaw en gespecialiseerd in AI, robotica en recht, benadrukt de cruciale rol van diversiteit en inclusie bij de ontwikkeling van AI. Zijn inzichten en onderzoek over dit onderwerp zijn dankzij Erwin Vogelaar opgenomen in Winq en werpen een licht op de potentiële risico's van bevooroordeelde AI-systemen, met name over de LGBTQ-gemeenschap.
AI en het binaire denken
Fosch-Villaronga wijst op de beperking van binair denken in AI-ontwikkeling, waarbij systemen vaak worden ontworpen om zwart-wit te werken - of ze functioneren goed of niet. Volgens Fosch-Villaronga gaat deze over gesimplificeerde benadering voorbij aan het rijke spectrum van menselijke diversiteit. Hij vestigt de aandacht op de kwestie van geslachtsclassificatie in AI-systemen, waarbij hij opmerkt dat de vaak gebruikte binaire parameter van mannelijk of vrouwelijk het bestaan van de intersekse gemeenschap over het hoofd ziet. Bovendien wijst hij op het onderscheid tussen geslacht en sekse, waarbij hij benadrukt dat geslacht subjectief is en niet altijd overeenkomt met uiterlijke kenmerken, wat leidt tot mogelijke fouten in machinevoorspellingen.
De gevolgen van bevooroordeelde AI-systemen worden vooral zorgwekkend als AI betrokken is bij levensbepalende momenten, zoals de Benefits Affaire. Fosch-Villaronga onderstreept de toenemende integratie van AI in de gezondheidszorg voor taken als het stellen van diagnoses en het plannen van behandelingen. In gevallen waarin de genderidentiteit van een individu verandert, kunnen traditionele AI-systemen moeite hebben om zich aan te passen, wat kan leiden tot misgendering. In een medische context kan misgendering leiden tot verkeerde diagnoses, waardoor de veiligheid van mensen ernstig in gevaar komt.
Het onderzoek en de inzichten van Fosch-Villaronga vormen een oproep tot actie voor de AI-gemeenschap om de vooroordelen aan te pakken die inherent zijn aan de gegevens die worden gebruikt om deze systemen te trainen. Het bereiken van diversiteit en inclusie in AI is niet alleen een ethische noodzaak; het is essentieel voor het creëren van AI-toepassingen die accuraat, eerlijk en veilig zijn voor alle individuen, ongeacht hun genderidentiteit of andere kenmerken.
Diversiteit, robots en AI
Eduard Fosch-Villaronga zet zich in voor het bevorderen van de kennis op het gebied van Diversity, Robots, & AI. Binnen dat onderwerp is Eduard medevoorzitter van het Gendering Algorithms initiatief aan de Universiteit Leiden, samen met Tessa Verhoef van de LIACS afdeling, een project dat zich richt op het verkennen van de werking, effecten en het bestuursbeleid van AI-gebaseerde genderclassificatiesystemen.
Erwin Vogelaar en Winq
Erwin Vogelaar is een Nederlandse freelance journalist die over technologie schrijft voor kranten, tijdschriften en websites. Winq is het grootste queer lifestyle magazine van Nederland.