Het Discriminerende Algoritme

Hoe treden we op tegen de uitwassen van kunstmatige intelligentie?

Het Discriminerende Algoritme

 

De ‘sollicitatierobot’ van Amazon stelde vrouwelijke kandidaten stelselmatig achter. Google’s gezichtsherkenningssoftware herkende zwarte mannen dikwijls als gorilla’s. En zelfrijdende auto’s identificeren mensen met een donkere huidskleur minder vaak als ‘persoon’ dan mensen met een lichte huidskleur.

AI zit in een stroomversnelling. Haast elke dag wordt het gebruik van kunstmatige intelligentie verder geïntegreerd in ons leven. De term kunstmatige intelligentie – ook wel: Artificiële Intelligentie (AI) – refereert aan systemen die ‘intelligent gedrag’ vertonen door hun omgeving te analyseren en zelfstandig problemen op te lossen. Kortom: ze imiteren het denkvermogen van de mens. 

Nederlandse bedrijven zijn koploper in Europa op het gebied van kunstmatige intelligentie. BAM, Philips en Randstad werken bijvoorbeeld al aan AI-projecten die op korte termijn zullen worden geïntegreerd. Tegelijkertijd worden grote techbedrijven geconfronteerd met de tekortkomingen van AI, want – zo blijkt – machines zijn helemaal niet neutraal. 

Een recent onderzoek van de Raad van Europa stelde vast dat het gebruik AI onbedoeld kan leiden tot discriminatie. Zo worden zwarte vrouwen door gezichtsherkenningssoftware vaker aangezien voor een man en hebben de algoritmes die de politie gebruikt geleid tot etnische profilering. 

Moet de overheid ingrijpen om de samenleving te beschermen tegen de uitwassen van technologie? Hebben tech-giganten genoeg zelfregulerend vermogen om de problematiek zelf aan te pakken? Wie draagt de verantwoordelijkheid?

Onder leiding van moderator Alberta Opoku spreken we erover met neuro-informaticus Sennay Ghebreab, AI-consultant Walter Diele, D66-kamerlid Kees Verhoeven en – middels een live videoverbinding – met hoofddocent African-American Studies aan Princeton University Ruha Benjamin.

Dit programma heeft al plaatsgevonden
program.info.closed.description
Deel dit evenement:

Sprekers

Ruha Benjamin

Ruha Benjamin is hoofddocent Afro-Amerikaanse studies aan Princeton University. In haar nieuwste boek Race After Technology: Abolitionist Tools for the New Jim Code schrijft ze over de maatschappelijke problemen omtrent technologie. Ze heeft tevens voor The Huffington Post geschreven en een TED talk gegeven bij TedxBaltimore. Ook is Ruha Benjamin fellow aan de Harvard Kennedy School’s Program on Science, Technology and Society.

Sennay Ghebreab

Sennay Ghebreab is neuro-informaticus aan de Universiteit van Amsterdam, hoofd sociale wetenschappen aan Amsterdam University College, en visiting fellow ‘diversiteit en inclusie’ aan de Vrije Universiteit Amsterdam.

Walter Diele

Walter Diele was director Innovation op het gebied van kunstmatige intelligentie bij Deloitte. Tegenwoordig is hij freelance AI-consultant en geeft hij workshops over hoe je Artificial Intelligence op een verantwoorde manier gebruikt.

Kees Verhoeven

Voor de Tweede Kamerverkiezingen van 2012 was Kees Verhoeven campagneleider van D66 en stond hij op plek 4 van de kieslijst. Bij de Tweede Kamerverkiezingen 2017 werd hij herkozen. In de Kamer heeft Verhoeven de portefeuilles Europa, inlichtingendiensten, ICT, privacy en cyberveiligheid, marktordening en mededinging. D66 vindt dat het kabinet 25 miljoen euro moet investeren in kunstmatige intelligentie – een actieplan dat door Verhoeven is gelanceerd.

Alberta Opoku (moderator)

Alberta Opoku is freelance journalist, gespreksleider en politicoloog. Momenteel is ze team lead Woordvoering en Content bij de Volksbank. Voorheen schreef en maakte ze programma’s over (internationale) politiek, maatschappij, economie en Afrika. Ook is ze mede-samensteller en auteur van het eind 2014 verschenen essaybundel ‘Game Changers: Diasporadoeners en –denkers voor een andere Afrika-agenda’.