Sennay Ghebreab foto Daan Muller

UvA-onderzoeker: ‘Ai moet eerlijker en inclusiever’

Wetenschapper Sennay Ghebreab wil een zogenoemd Civic AI Lab oprichten. Die onderzoeksgroep is een antwoord op bedrijven en organisaties die met hun artificiële intelligentie (ai)-toepassingen en algoritmes vaak onvoldoende rekening houden met fundamentele burgerrechten, stelt hij. Volgens de onderzoeker ligt in de huidige snelheid waarin ai zich ontwikkelt discriminatie op de loer.
Tekst Pim van der Beek, Foto Daan Muller

 

In een interview met Computable vertelt Ghebreab hoe artificiële intelligentie (ai) anders moet worden ontwikkeld om te voorkomen dat algoritmen discrimineren.

Hij gaat in op de opkomst van ai waarbij steeds meer systemen en apparaten gebruik maken van algoritmes die min of meer zelfstandig beslissingen nemen. ‘Bedrijven en overheden nemen vaker beslissingen op basis van die rekenmodellen die ook steeds complexer worden’, stelt hij.

Door vanaf het begin rekening te houden met burgerrechten, zeer kritisch te zijn op de labels die aan data worden geplakt en door de inzet van inclusieve ontwikkelteams kan voorkomen worden dat ai-toepassingen ontstaan die bepaalde groepen uitsluiten.

Ghebreab: ‘Niet alleen maar programmeurs en ict’ers zullen deze algoritmes oppakken, aanpassen en inzetten, maar ook leken en digibeten. Aan de ene kant is dit goed, aan de andere kant brengt het ook risico’s met zich mee van oneigenlijk en oneerlijk gebruik van algoritmes. Een vraag die bijvoorbeeld gesteld moet worden is wat de consequentie voor wie is van een bepaalde methode op een bepaalde dataset. Het kritisch algoritmische denken ontbreekt vaak.’

Bron: Computable