29/10/2024
Door Àd Spijkers
Onder bepaalde omstandigheden kan dat, maar het gevaar van manipulatie en misbruik ligt op de loer.
Een smekend geluidje uit blikkerige speakers, treurige virtuele ogen, trillende robotarmen: er is weinig voor nodig om medelijden te hebben met een robot. Dat blijkt uit onderzoek van Marieke Wieringa, die 5 november promoveert aan de Radboud Universiteit in Nijmegen. Zij waarschuwt dat die menselijke compassie ook uitgebuit kan worden: wacht maar tot bedrijven een verdienmodel vinden in emotionele manipulatie door robots.
Saaie taak, of schudden
Objectief weten we best dat een robot kan geen pijn ervaren. Toch zijn mensen onder bepaalde omstandigheden toch net wat meer geneigd te geloven dat een robot pijn heeft, als ze maar op de juiste manier gemanipuleerd worden. "Als een robot kan doen alsof hij emotioneel leed ervaart, voelen mensen zich schuldiger wanneer ze de robot mishandelen", legt Wieringa uit.
Tijdens verschillende tests keken Wieringa en collega's hoe mensen reageren op geweld tegen robots. "Sommige deelnemers kregen video's te zien van robots die wel of niet mishandeld werden, soms vroegen we deelnemers zelf de robot flink te schudden. We hebben allerlei variaties geprobeerd. Soms reageerde de robot niet, soms wel – met zielige geluidjes en andere uitdrukkingen die we associëren met pijn."
Uit die tests bleek al snel dat de getergde robot medelijden opwekte. Deelnemers waren minder bereid om de robot een tweede keer te schudden. "Vroegen we mensen om de robot te schudden die geen emotie toonde, dan leken ze er juist helemaal geen moeite mee te hebben", aldus Wieringa.
In een van de tests werd deelnemers gevraagd te kiezen: een tergend saaie taak uitvoeren of de robot schudden. Een keuze voor langer schudden, betekende dat deelnemers de taak minder lang hoefden uit te voeren. Bij een stille robot hadden de meeste mensen geen moeite met schudden, maar zodra de robot zielige geluiden maakte, besloten mensen toch maar de saaie taak op te pakken.
Manipulatie
Wieringa waarschuwt dat het een kwestie van tijd is voor organisaties die emotionele manipulatie uitbuiten. De Tamagotchi, een virtueel huisdier dat succesvol emoties opriep, was een tijdje een obsessie voor veel mensen. Maar wat gebeurt er als een bedrijf straks met een nieuwe variant op de Tamagotchi komt, waarbij je moet betalen om je virtuele huisdier te voeren? Daarom pleit Wieringa voor richtlijnen vanuit de overheid die voorschrijven wanneer het geschikt is om emoties te tonen voor chatbots, robots en andere varianten.
Helemaal verbieden lijkt Wieringa geen goed idee. "Het tonen van emoties heeft ook voordelen. Denk aan robots die in therapeutische situaties gebruikt worden, die mensen helpen om bepaalde dingen te verwerken. Tijdens het onderzoek zagen we dat de meeste deelnemers het juist goed vonden als de robot meelij opwekte. Dat geeft volgens hen een signaal af dat gewelddadig gedrag niet oké is. Toch moeten we waken voor de risico's bij mensen die gevoelig zijn voor 'neppe' emoties. We denken graag dat we heel logische, rationele wezens zijn die nergens intrappen, maar uiteindelijk worden wij ook geleid door emoties. En dat is maar goed ook, anders zijn wij net robots."
Foto: PxHere