WiDS

Women in Data Science: mensen zijn vooringenomen en niet de technologie

26 mei 2024

Data

De Women in Data Science (WiDS) Conference op 17 mei in Gent maakt deel uit van een wereldwijd initiatief om dataprofessionals te inspireren en te informeren, ongeacht hun gender, en om vrouwen op dit gebied te ondersteunen. Twee van onze collega's, Rossana Della Ghelfa (Smart Data Consultant) en Cin Vermeiren (Smart Data Specialised Sales), bezochten deze allereerste WiDS-conferentie in België en delen graag enkele inzichten met jou.

Waarom een conferentie speciaal voor vrouwen in data science?

Rossana & Cin

Rossana (links): De conferentie was een fantastische gelegenheid om van gedachten te wisselen met andere vrouwelijke datawetenschappers, zowel uit de academische als de bedrijfswereld. Dit kan vooral waardevol zijn voor vrouwen die zich geïsoleerd voelen op hun werkplek. Er kan echter wel een klein misverstand zijn over WiDS-conferenties. Hoewel de focus ligt op het empoweren van vrouwen en de sprekers vrouwelijk zijn, staan WiDS-conferenties open voor iedereen, ongeacht gender. De conferentie benadrukte het belang van diversiteit en inclusie in data science, en het overbruggen van de genderkloof. Ik vond de kernboodschappen en presentaties dus niet alleen waardevol voor vrouwen, maar ook voor mannen.

Cin (rechts): Een van de ambities van de WiDS-conferentie is om genderbias in datawetenschap aan te pakken, en meer bepaald in datamodellen, die nog steeds overwegend 'witte mannen' vertegenwoordigen. Malvina Nissim, professor computerlinguïstiek aan de Universiteit van Groningen, zoomde tijdens haar sessie in op vooroordelen. Ze gaf ook verschillende voorbeelden van gendervooroordelen in taalmodellen zoals Google Translate en ChatGPT. Een veelvoorkomend voorbeeld is de vooringenomenheid om verpleegkundigen te associëren met vrouwen, en artsen of professoren met mannen, wat de bestaande stereotypen versterkt. Dat is de manier waarop het model vandaag standaard werkt. Als de gegevensmonsters om taalmodellen te trainen echter niet representatief zijn voor de hele populatie, zullen bepaalde groepen, waaronder vrouwen, ondervertegenwoordigd zijn. De conferentie in Gent had tot doel het bewustzijn te vergroten en de diversiteit en inclusie binnen het domein te bevorderen.

Gender Bias Translate

Rossana: Een van de manieren om dit te bereiken, is door vrouwen aan te moedigen tot meer participatie en ervoor te zorgen dat de gegevens om modellen op te bouwen afkomstig zijn van diverse groepen. Dit impliceert niet alleen een verrijking van de gegevens, maar is cruciaal om meer nauwkeurige en onbevooroordeelde modellen te creëren, en vooral ook om een verantwoord gebruik van technologie zoals AI te garanderen.

Dus eigenlijk zijn mensen vooringenomen en niet de technologie?

Rossana: Een van de belangrijkste lessen die ik heb geleerd, was dat we moeten focussen op het wegnemen van vooroordelen uit de maatschappij, niet uit de technologie zelf. Technologie kan ongelooflijk krachtig zijn. De mogelijkheden zijn vrijwel onbeperkt. Datamodellen en algoritmen weerspiegelen echter vaak de vooroordelen die aanwezig zijn in de data waarop ze zijn getraind – gegevens die worden gegenereerd door mensen die fouten kunnen maken en onbewuste vooroordelen kunnen hebben. Tegelijkertijd roept dit nog een bijkomende uitdaging op. Kunnen we overcorrigeren of overcompenseren? Wat als de pendel, in ons beste streven om scheefstand te minimaliseren of zelfs te elimineren, te ver doorslaat in de andere richting?

Overcompensation

Cin: Dat was het geval in februari, toen het AI-model van Google (Gemini) werd beschuldigd van 'anti-white bias' toen het beelden van een Aziatische vrouwelijke paus genereerde. De noodzaak van een genuanceerde aanpak benadrukken. Hoewel diversiteit in data en datamodellering cruciaal is, is het ook belangrijk om te streven naar feitelijke nauwkeurigheid.

Censorship

Rossana: Tijdens haar sessie daagde Malvina Nissim ons uit om na te denken over de relevantie van censuur in ChatGPT. Als je ChatGPT vraagt om een grapje te maken over vrouwen, zal AI aangeven dat het ongepast is. Maar het systeem maakt wel een grap over mannen als je daarom vraagt. Dat deed wel enkele wenkbrauwen fronsen. Voor mij zijn gegevens een kapitaal en heeft AI een enorm potentieel. Maar we zijn er nog niet ... Er zijn nog veel aspecten om rekening mee te houden, vooral bij gevoelige onderwerpen.

Cin: Ook de complexe en soms tegenstrijdige relatie tussen AI en duurzaamheid vereist volgens mij zorgvuldige overwegingen. Hoewel ik moet toegeven dat Jenny Ambukiyenyi Onya in haar keynote een zeer positief verhaal bracht over data en duurzame economie. Ze vertelde over Halisi Livestock dat geavanceerde AI en biometrie gebruikt om landbouwers en financiële instellingen te helpen de toegang tot kapitaal voor onderbediende bevolkingsgroepen te verbeteren. Zodoende transformeert het bedrijf het landschap van de agrofintech in Afrika.

Data science is tegenwoordig overal in het nieuws, vooral met de opkomst van AI. Is het een puur technisch verhaal of gaat het verder dan dat?

Cin: Technologie en vooral AI verbeteren ongetwijfeld de productiviteit en efficiëntie, vooral voor repetitieve, gevaarlijke of vuile taken. De focus moet echter verschuiven naar het benutten van AI om de menselijke capaciteiten te vergroten, niet om ze te vervangen. Stel je voor dat we 'supermensen' worden, met technologie die ons denken en handelen verbetert. Denk bijvoorbeeld aan door AI aangedreven implantaten waarmee mensen weer kunnen horen of stappen. In dit opzicht wil ik graag reclame maken voor een van mijn favoriete tv-programma's: 'Het digitale dilemma'. In deze documentaireserie van VRT MAX onderzoekt journalist Tim Verheyden de impact van technologische innovatie op mensen en de maatschappij.

Wat is de toegevoegde waarde van vrouwen in data science?

Cin: Ons brein werkt anders en diversiteit in gedachten is cruciaal in datawetenschap en zakelijke vertaling. Mensen met verschillende achtergronden brengen unieke perspectieven mee die kunnen leiden tot innovatieve oplossingen. Bij KBC zijn veel datawetenschappers vrouwen. Dit succes is te danken aan een combinatie van factoren, waaronder de STEM-onderwijsinitiatieven, maar ook aan de intrinsiek sterke wiskundige vaardigheden en academische prestaties die we vaak bij vrouwen aantreffen, evenals hun potentieel om zaken uit verschillende perspectieven te bekijken.

Rossana: Een meer diverse groep zal altijd meer diverse oplossingen leveren. We richten ons nu op vrouwen, maar dit geldt ook voor andere minderheden zoals andere nationaliteiten, leeftijden of mensen met een handicap. Ik moet hierbij denken aan het klassieke kip-of-eiverhaal of zelfs een catch 22. We hebben meer vrouwen met verschillende achtergronden en mindsets in de datawetenschap nodig om de vooroordelen af te bouwen, maar het gebrek aan diversiteit kan sommige vrouwen ervan weerhouden om het veld te betreden. Conferenties zoals die in Gent spelen een cruciale rol om bewustzijn te creëren en die grenzen te doorbreken.

Zijn er verder nog inzichten die je met ons wilt delen?

Cin: Wat mij is bijgebleven is de sessie over de onzichtbaarheid van vrouwelijke data in wetenschappelijk onderzoek. Het benadrukte een cruciaal probleem en illustreerde wat het gebrek aan data van vrouwen in wetenschappelijk onderzoek kan veroorzaken. Problemen zoals ineffectieve medicatie of bijwerkingen, waardoor vrouwen mogelijk zelfs worden blootgesteld aan overdosering. Ook het gebrek aan data tijdens zwangerschap, vaak ingegeven door de wens om risico's te vermijden, laat vrouwen met beperkte opties om met verschillende gezondheidsproblemen tijdens hun zwangerschap om te gaan. Laten we daarom alstublieft de kloof dichten.

Female Data

Hartelijk dank voor het delen van jullie inzichten en om te helpen bij het doorbreken van de grenzen!

Heb jij een passie voor data science of ICT en wil je echt het verschil maken?

Kom dan Inetum versterken! Wij bieden een divers en inclusief werkklimaat met mentorschap en professionele ontwikkelingsmogelijkheden, waar je kunt bijdragen aan innovatieve oplossingen die ons succes stimuleren en de onbevooroordeelde toekomst van technologie vormgeven. Ben je op zoek naar een plek waar je kunt groeien en waar je echt voor impact kunt gaan, neem dan contact met ons op.