‘Empathie koppelen aan machines is een utopie’

In haar boek Regels voor robots pleit moraal­filosofe Katleen Gabriels voor ethische regels voor robots en systemen die draaien op kunstmatige intelligentie. En voor ingenieurs.

Door Jim Jansen, 19 januari 2020

©Sjoerd van Leeuwen

Een stofzuigrobot die je huis schoonmaakt en een robotchirurg die een precisieoperatie uitvoert. Zomaar twee alledaagse voorbeelden van artificiële intelligentie (AI) in het leven anno 2020. Of we het willen of niet, we kunnen niet meer om AI heen. In combinatie met big data leidt dit tot ongekende mogelijkheden. De techniek roept tegelijkertijd vele vragen op. Welke beslissingen delegeren we bijvoorbeeld aan machines en welke niet? En wie bepaalt wat zelflerende systemen leren?

Katleen Gabriels houdt zich al haar halve leven bezig met grote levensvragen. Onlangs verscheen haar boek Regels voor robots waarin ze pleit voor regels voor robots en AI-systemen, maar ook voor ingenieurs en andere ontwerpers. “Ik hou me bezig met vragen over diepmenselijke thema’s zoals moraliteit en technologie,” zegt ze. “De fascinatie ontstond tijdens mijn promotieonderzoek dat handelde over Second Life, de virtuele wereld zonder regels waarin je jezelf zogezegd opnieuw kon uitvinden. Vragen over regels, morele kwesties en nieuwe computertechnologie kwamen vanzelf bovendrijven en die boeien mij nog steeds.”

U doet onderzoek op het grensvlak van techniek en filosofie. Wat is daar zo interessant aan?

“Techniek is verweven met de mens en die verbondenheid wordt alleen maar sterker. Als je vroeger slechte ogen had, was dat heel vervelend. Met de uitvinding van de bril verbeterden vele levens. Technisch gezien kunnen we steeds meer. AI-systemen kruipen letterlijk onder de huid. De vraagt rijst dan in hoeverre we nog kunnen uitloggen en hoe we ervoor kunnen zorgen dat mensen kritisch kunnen omgaan met de informatie waarmee ze worden overspoeld. Deze tijd schreeuwt om ethiek om ons te helpen lastige beslissingen te nemen.”

Technische vernieuwingen en innovaties gaan razendsnel. Wat gisteren onmogelijk leek, is morgen een fluitje van een cent.

“Dat is waar. AI bestaat sinds de jaren vijftig van de vorige eeuw en doorging sindsdien een aantal zomers en winters. Dankzij deze techniek kunnen computers nu met elkaar communiceren en zijn zelfrijdende auto’s volop in ontwikkeling. De zoekmachine van Google, de tijdlijn van Facebook en Alexa van Amazon: veel van onze dagelijkse technologie bevat AI-toepassingen. En dat wordt alleen nog maar meer.”

We belanden in een periode dat we alles kunnen bedenken en uitvinden. Maar willen we dat en wie bepaalt dat?

“Over deze vraag moet je in debat gaan met onderzoekers, burgers en beleidsmakers en dat gaat traag omdat het over zulke grote en soms delicate kwesties gaat. Over het algemeen ben ik optimistisch. De eerste reageerbuisbaby werd in 1978 geboren. Nu zijn we meer dan veertig jaar verder en is er een wettelijk en democratisch kader voor, althans in de Lage Landen.”

In uw boek pleit u voor ethische regels voor zowel robots als voor ingenieurs.

“Ook ingenieurs moeten hun morele verantwoordelijkheid nemen en op voorhand stilstaan bij ethische vraagstukken, dus voordat er een prototype wordt gemaakt. Ik laat tijdens lezingen en lessen vaak een filmpje zien van een automatisch zeeppompje dat niet werkt bij zwarte handen omdat die minder licht reflecteren dan witte. Dit probleem had voorkomen kunnen worden door het product op voorhand te testen met een brede groep eindgebruikers.”

“Hier ligt de verantwoordelijkheid bij de programmeurs en ingenieurs, maar niet alléén bij hun. Als je een verandering teweeg wilt brengen, zal dat ook moeten gebeuren binnen de muren van universiteiten en hogescholen en zul je er ook op de werkvloer aandacht aan moeten besteden. Maar ook beleidsmakers moeten er aandacht aan besteden. De tijd van profits before principles moeten we, zeker bij de grote techbedrijven, definitief achter ons laten.”

Hoe maakt u zelf morele keuzes?

“Door de dialoog aan te gaan, bijvoorbeeld via het onderwijs. En vervolgens dat debat in kaart te brengen, zoals in Regels voor robots. Het gaat namelijk altijd om afwegingen en wat goed is voor een bedrijf, kan minder goed zijn voor een klant. Als ik met studenten werk, laat ik ze vragen stellen en de dialoog voeren om vervolgens afwegingen te maken. Daar leren ze ook dat moraliteit contextafhankelijk is.”

Wat is de rol van kunstmatige intelligentie in 2030 in Nederland?

“Ik vind dat een ingewikkelde vraag, maar ik denk dat we zullen voortborduren op wat we vandaag de dag doen. In bepaalde vakgebieden, zoals de geneeskunde, zal het sneller gaan. AI-systemen zijn al beter in het diagnosticeren van borstkanker dan artsen. Een computer ziet bepaalde afwijkingen sneller en nauwkeuriger dan mensen. Daarnaast zal de samenwerking tussen de mens en AI-systemen nog intensiever worden en moeten we besluiten nemen op basis van waar beide goed in zijn. Dat een eigenschap als empathie kan worden gekoppeld aan een machine is een utopie.”

Bent u er ook bang voor?

“Angst is een slechte raadgever. We moeten vooral inzetten op bewustwording.”

Moraal­filosofe Katleen Gabriels. ©Jef Boes

Bron: Het Parool.

Geef een reactie

Vul je gegevens in of klik op een icoon om in te loggen.

WordPress.com logo

Je reageert onder je WordPress.com account. Log uit /  Bijwerken )

Google photo

Je reageert onder je Google account. Log uit /  Bijwerken )

Twitter-afbeelding

Je reageert onder je Twitter account. Log uit /  Bijwerken )

Facebook foto

Je reageert onder je Facebook account. Log uit /  Bijwerken )

Verbinden met %s

Deze site gebruikt Akismet om spam te bestrijden. Ontdek hoe de data van je reactie verwerkt wordt.