Naar affectief computergebruik dat voor iedereen werkt
Tessa Verhoef van het Leiden Institute of Advanced Computer Science en Eduard Fosch-Villaronga van eLaw – Centrum voor Recht en Digitale Technologie hebben een artikel geschreven over hoe affectief computergebruik inclusief en divers moet zijn en voor iedereen moet werken.
Diversiteit en inclusie zijn essentiële aspecten van de verantwoorde ontwikkeling van kunstmatige intelligentie (AI) technologieën waaronder affective computing. Affective computing (affectief computergebruik) richt zich op het herkennen, interpreteren en reageren op menselijke emoties en kan een revolutie teweegbrengen in verschillende domeinen, zoals gezondheidszorg, onderwijs en mens-machine-interactie. Het vastleggen van subjectieve toestanden met technische middelen is echter een uitdaging en er kunnen fouten optreden, zoals bij leugendetectors die niet naar behoren werken of genderclassificatiesystemen die gebruikers verkeerd indelen. De gevolgen hiervan kunnen variëren afhankelijk van de context van een toepassing, bijvoorbeeld het markeren van onschuldige mensen als potentiële criminelen bij grenscontrole of het nadelig beïnvloeden van kwetsbare groepen in de geestelijke gezondheidszorg.
In lijn van het bovenstaande hebben Tessa Verhoef van het Creative Intelligence Lab van de Universiteit Leiden en Eduard Fosch-Villaronga van eLaw – Centrum voor Recht en Digitale Technologie een artikel geschreven waarin ze benadrukken dat systemen die zijn getraind op de datasets die momenteel beschikbaar zijn en het meest worden gebruikt, mogelijk niet voor iedereen even goed werken en waarschijnlijke racistische vooroordelen, vooroordelen over gebruikers met (geestelijke) gezondheidsproblemen en leeftijdsvooroordelen hebben omdat ze zijn gebaseerd op beperkte steekproeven die de maatschappelijke diversiteit niet volledig vertegenwoordigen.
Tessa en Eduard presenteerde de paper met als titel ‘Towards affective computing that works for everyone’ op de conferentie Affective Computing + Intelligent Interaction (ACII ‘23) die werd gehouden in het Massachusetts Institute of Technology (MIT) Media Lab. De jaarlijkse conferentie van de Association fort he Advancement of Affective Computing (AAAC) is het belangrijkste internationale forum voor onderzoek naar affectieve en multimodale mens-machine-interactie en systemen.
In hun artikel stellen ze dat de ontbrekende elementen op het gebied van diversiteit, gelijkheid en inclusie in affective computingdatasets direct van invloed zijn op de nauwkeurigheid en juistheid van emotie-herkenningsalgoritmen voor verschillende groepen. De onderzoekers hebben een literatuurstudie uitgevoerd waaruit blijkt hoe affective computingsystemen verschillend kunnen werken voor verschillende groepen, bijvoorbeeld als gevolg van psychische aandoeningen die gezichtsuitdrukkingen en spraak beïnvloeden of leeftijdsgerelateerde veranderingen in gezichtsuitdrukkingen en gezondheid. Hiervoor analyseerde ze bestaande datasets van affective computingdatasets wat betreft afkomst, geslacht/gender, leeftijd en (geestelijke) gezondheid. Door het belang van meer inclusieve steekproefstrategieën en gestandaardiseerde documentatie van demografische factoren in datasets te benadrukken, biedt dit paper aanbevelingen en oproepen voor meer aandacht voor exclusiviteit en aandacht voor maatschappelijke gevolgen in affective computingonderzoek om ethische en accurate resultaten in dit opkomende veld te bevorderen.
Toegang tot paper
U kunt de paper openen via deze link.
Erkenning
De auteurs bedanken Joost Batenburg voor zijn steun via het SAILS Programma, een AI-initiatief van de Universiteit Leiden. Ze willen ook graag het Gendering Algorithms programma bedanken dat gefinancierd is door het Global Transformations and Governance Challenges Initiative van de Universiteit Leiden. Dit paper is ook deels gefinancierd door het Safe and Sound project (een project dat subsidie heeft ontvangen van Horizon-ERC programma van de Europese Unie (Grant Agreement No. 101076929).