eLaw op Lawtomation Days 2024
Op 26 en 27 september namen Eduard Fosch-Villaronga, Carlotta Rigotti, Mohammed Raiz Shaffique, Marie Schwed-Shenker en Antoni Mut Piña deel aan de derde editie van Lawtomation Days aan de IE University in Madrid.
Lawtomation Days ‘24
De Lawtomation Days van dit jaar richtten zich op het transformatieve potentieel van digitale ecosystemen, met de nadruk op hoe technologische vooruitgang duurzamere, inclusievere en ethisch verantwoorde omgevingen kan bevorderen. Het evenement moedigde interdisciplinair onderzoek aan en had als doel een platform te creëren voor diepgaande discussies om de onderzoeksagenda te bevorderen.
De conferentie behandelde hoe het recht automatisering in verschillende gebieden zou kunnen vereenvoudigen, waaronder consumentenrecht, strafrecht, arbeidsrecht, publiekrecht, privaatrecht en handelsrecht. Ook werden de regelgevende- en wetgevende maatregelen in het digitale landschap geëvalueerd, zoals de AI-verordening en de Digital Services Act. Het doel was om een realistisch perspectief te bieden op de huidige juridische kaders, waarbij de effectiviteit, tekortkomingen en kansen voor verbetering werden belicht, in reactie op de heersende hype en bezorgdheid in de digitale en AI-wereld.
Presentatie van het BIAS-project: focus AI-transparantie op de werkplek
Tijdens de Lawtomation Days presenteerden Carlotta en Eduard, samen met mede-auteur Tessa Verhoef, hun werkdocument over de opvattingen en houdingen van werknemers ten opzichte van AI-transparantie op de werkplek. Hun presentatie benadrukte de essentiële rol van transparantie in zowel traditionele als door AI aangedreven werkomgevingen; een prioriteit die wordt weerspiegeld in de recent aangenomen Verordening (EU) 2024/1689 (AI Act) . Onder de AI Act worden AI-systemen die in human resources (HR) worden gebruikt, geclassificeerd als hoog risico, hoewel hun classificatie kan variëren op basis van specifieke gebruikssituaties.
Eduard benadrukte dat transparantie in AI-gedreven werkplekken vaak wordt verward met louter informatieverstrekking. Echter, transparantie is pas effectief als de informatie betekenisvol, toegankelijk en relevant is voor werknemers. Dit vormt een uitdaging, aangezien AI-systemen vaak worden gekenmerkt door ondoorzichtigheid, waardoor het voor werknemers moeilijk is om volledig te begrijpen hoe deze systemen functioneren en beslissingen nemen. De focus van de presentatie verschoof vervolgens naar een baanbrekende studie, uitgevoerd als onderdeel van het Horizon Europe BIAS project, waarin enquêteresultaten van 4.913 deelnemers uit de EU, IJsland, Noorwegen, Zwitserland en Turkije werden geanalyseerd. Carlotta presenteerde beschrijvende en voorlopige bevindingen over de ervaringen van werknemers en sollicitanten met AI-transparantie op de werkplek. De inzichten toonden aan dat er een bescheiden bewustzijnskloof bestaat over hoe AI-systemen werken, en boden vroege aanbevelingen om ervoor te zorgen dat wordt voldaan aan de transparantie-eisen van de AI Act, die in 2026 van kracht zal worden.
Geïnteresseerd om mee te doen met het BIAS-project? Klik op deze link om deel te nemen aan onze groep van nationale belanghebbenden.
Het BIAS-project heeft financiering ontvangen van het Horizon Europe-programma van de Europese Unie onder de open call HORIZON-CL4-2021-HUMAN-01-24 - Het aanpakken van vooroordelen op basis van geslacht, ras en andere biases in AI (RIA) (subsidieovereenkomst nr. 101070468).
ERC Safe & Sound Project: Wetenschap voor Robotbeleid
Tijdens een paneldiscussie over technologisch bestuur binnen de EU presenteerden leden van het Safe & Sound-team Eduard (hoofdonderzoeker), Marie en Raiz (promovendi) hun concept werkdocument over 'Wetenschap voor Robotbeleid in de EU'. De presentatie benadrukte hoe het op wetenschappelijk bewijs gebaseerde besluitvormingsregime in de EU ernaar streeft wetenschappelijke kennis te gebruiken om de regelgevingsprocessen te sturen, en hoe deze aanpak ook essentieel is in de sfeer van servicerobotica.
Het Safe & Sound-team ging ook in gesprek met de deelnemers over hun opvattingen over robots en de bijbehorende veiligheidskwesties. Eduard schetste hoe het Safe & Sound-project objectief bewijs wil gebruiken om het beleid voor servicerobotica te ondersteunen, met als doel de veiligheid van gebruikers en naleving van regelgeving voor deze robots te verbeteren. Raiz en Marie bespraken ook hun casestudies voor hun promotieonderzoeken, die respectievelijk gericht zijn op fysieke assistentrobots en sociaal assistieve robots. Het team verwelkomde ook Antoni Mut Piña als nieuw lid van het project.
Het Safe & Sound-project wordt gefinancierd door het Horizon ERC-programma van de Europese Unie, Subsidieovereenkomst nr. 101076929.
Panel: Methoden in recht en technologie
Eduard Fosch-Villaronga presenteerde zijn werk over 'Communicatiestructuren voor kennisbemiddeling in robotica-beleidsonderzoek' tijdens het panel 'Methoden in recht en technologie', georganiseerd door Kostina Prifti (Erasmus Universiteit Rotterdam). Het doel van dit panel was een discussie op gang te brengen over interdisciplinariteit en kruisdisciplinariteit in recht en technologieonderzoek. Dit onderzoeksveld wordt vaak gekenmerkt door een verscheidenheid aan methoden en benaderingen, variërend van sociaal-juridisch, recht en filosofie, recht en informatica tot recht en milieu.
Ten eerste besprak het panel de uitdagingen waarmee onderzoekers worden geconfronteerd wanneer ze interdisciplinair en kruisdisciplinair onderzoek doen in recht en technologie, waarbij de lessen uit deze ervaringen werden uiteengezet. Ten tweede wierp het panel licht op enkele belangrijke inzichten die zouden helpen bij het opstellen van methodologische richtlijnen voor onderzoekers in recht en technologie. Eduard besprak ook het belang van het creëren van communicatiestructuren voor kennisbemiddeling tussen ontwikkelaars, beleidsmakers, academici en maatschappelijke belanghebbenden voor robotica-beleid.