Het vertrouwen van mensen in robots

Tue Oct 15 2024

10 15

Het vertrouwen van mensen in robots

02/11/2022

Door Ad Spijkers

Wetenschappers gebruiken functionele nabij-infraroodspectroscopie om de reacties van operators op gedragingen van robots te volgen.


     

Nu in de industrie steeds meer mensen nauw met robots samenwerken, moet ervoor worden gezorgd dat de relatie effectief, soepel en gunstig voor de mens is. Robotbetrouwbaarheid en de bereidheid van mensen om robotgedrag te vertrouwen zijn essentieel voor deze werkrelatie. Het vastleggen van menselijk vertrouwen kan echter moeilijk zijn door subjectiviteit.

Onderzoekers van de Texas A&M University in College Station (noordwestelijk van Houston) gaan deze uitdaging aan. Het onderzoek naar de menselijke autonomie kwam voortuit een reeks projecten over mens-robot-interacties in veiligheidskritieke werkdomeinen.

Vertrouwen

Hun focus tot nu toe was, om te begrijpen hoe de toestand van vermoeidheid en stress van de operator van invloed is op hoe mensen omgaan met robots. Vertrouwen werd een belangrijk onderwerp van studie. De onderzoekers ontdekten dat, als mensen moe worden, hun waakzaamheid verslapt en ze meer vertrouwen krijgen in automatisering dan zou moeten. Maar waarom dat zo is, wordt een belangrijke vraag om aan te pakken.

Het nieuwste onderzoek richt zich op het begrijpen van de hersen-gedragsrelaties van waarom en hoe het vertrouwensgedrag van een operator wordt beïnvloed door zowel menselijke als robotfactoren.

NIR-spectroscopie

Met behulp van functionele nabij-infraroodspectroscopie legden de onderzoekers functionele hersenactiviteit vast terwijl operators met robots samenwerkten aan een productietaak. Ze ontdekten dat foutieve robotacties het vertrouwen van de operator in de robots verminderden. Dat wantrouwen was geassocieerd met verhoogde activering van regio's in de frontale, motorische en visuele cortex, wat wijst op een toenemende werkdruk en een verhoogd situationeel bewustzijn.

Interessant is dat hetzelfde wantrouwende gedrag werd geassocieerd met de ontkoppeling van deze hersengebieden die samenwerkten, die goed met elkaar verbonden waren als de robot zich betrouwbaar gedroeg. Volgens de onderzoekers was deze ontkoppeling groter bij hogere robotautonomieniveaus, wat aangeeft dat neurale handtekeningen van vertrouwen worden beïnvloed door de dynamiek van mens-autonomie-teaming.

Het meest interessant vonden ze, dat de neurale handtekeningen verschilden toen ze hersenactiveringsgegevens vergeleken met betrouwbaarheidsomstandigheden (gemanipuleerd met normaal en defect robotgedrag) versus de vertrouwensniveaus van de operator in de robot (verzameld via enquêtes). Dit benadrukte het belang van het begrijpen en meten van vertrouwensrelaties tussen hersenen en gedrag in samenwerkingen tussen mens en robot. Percepties van vertrouwen zijn namelijk niet alleen indicatief voor hoe het vertrouwensgedrag van operators wordt gevormd.

Het vervolg

Neurale reacties en percepties van vertrouwen zijn beide symptomen van vertrouwend en wantrouwend gedrag. Ze geven verschillende informatie door over hoe vertrouwen wordt opgebouwd, geschonden en gerepareerd met verschillende robotgedragingen. De onderzoekers benadrukten de sterke punten van multimodale vertrouwensstatistieken (neurale activiteit, eye-tracking, gedragsanalyse, enzovoorts). Dit kan nieuwe perspectieven onthullen die subjectieve reacties alleen niet kunnen bieden.

De volgende stap is om het onderzoek uit te breiden naar een andere werkcontext, zoals noodhulp, en te begrijpen hoe vertrouwen in multi-menselijke robotteams teamwerk en taakwerk in veiligheidskritieke omgevingen beïnvloedt. Het lange termijn doel is niet om mensen te vervangen door autonome robots, maar om hen te ondersteunen door vertrouwensbewuste autonomie-agenten te ontwikkelen.

De onderzoekers zijn gemotiveerd om ervoor te zorgen dat het ontwerp, de evaluatie en de integratie van menselijke robots op de werkplek de menselijke capaciteiten ondersteunen en versterken.

Foto: Texas A&M Engineering