UvA-onderzoeker: ‘Ai moet eerlijker en inclusiever’

In een interview met Computable vertelt Ghebreab hoe artificiële intelligentie (ai) anders moet worden ontwikkeld om te voorkomen dat algoritmen discrimineren.

Hij gaat in op de opkomst van ai waarbij steeds meer systemen en apparaten gebruik maken van algoritmes die min of meer zelfstandig beslissingen nemen. ‘Bedrijven en overheden nemen vaker beslissingen op basis van die rekenmodellen die ook steeds complexer worden’, stelt hij.

Door vanaf het begin rekening te houden met burgerrechten, zeer kritisch te zijn op de labels die aan data worden geplakt en door de inzet van inclusieve ontwikkelteams kan voorkomen worden dat ai-toepassingen ontstaan die bepaalde groepen uitsluiten.

Ghebreab: ‘Niet alleen maar programmeurs en ict’ers zullen deze algoritmes oppakken, aanpassen en inzetten, maar ook leken en digibeten. Aan de ene kant is dit goed, aan de andere kant brengt het ook risico’s met zich mee van oneigenlijk en oneerlijk gebruik van algoritmes. Een vraag die bijvoorbeeld gesteld moet worden is wat de consequentie voor wie is van een bepaalde methode op een bepaalde dataset. Het kritisch algoritmische denken ontbreekt vaak.’