Verrassend: mensen tolereren leugens van robots*
Sci-fi?
Het is een thema van heel wat sci-fi films: technologie die de wereld probeert over te nemen. Robots die slim en onverslaanbaar worden, programma's die op eigen houtje handelen, artificiële intelligentie die de mensheid in z'n grip houdt, ...
Het is al lang geen fictie meer, onze technologie staat tegenwoordig onmogelijk ver, maar in hoeverre moeten we bang zijn van bovenstaande scenario's?
Andres Rosero deed samen met collega's een onderzoek naar robotleugens - en hoe wij die als mensheid ervaren.
Misleiding of verborgen functies worden niet aanvaard
Een onderzoek gepubliceerd in het vakblad Frontiers in Robotics and AI onderzoekt hoe mensen reageren op robots die liegen. De bevindingen zijn verrassend: niet alle leugens worden als even slecht ervaren.
Bijna 500 deelnemers werden tijdens het onderzoek gevraagd om verschillende scenario’s van robotleugens te beoordelen. De onderzoekers richtten zich op drie soorten leugens die robots kunnen vertellen.
- De eerste soort leugen betreft onwaarheden over de buitenwereld.
- In het tweede scenario verzwijgt de robot informatie over zijn eigen capaciteiten.
- In het derde scenario overdrijft de robot ten slotte juist over zijn eigen mogelijkheden.
In het eerste scenario verzorgde een robot een vrouw met Alzheimer en liet haar geloven dat haar overleden echtgenoot binnenkort thuis zou komen. Dit werd door de deelnemers relatief vaak goedgekeurd, omdat zij vonden dat deze leugen de gevoelens van de patiënt beschermde.
In het tweede scenario ontmoette een vrouw een robot die haar huis schoonmaakte, zonder dat zij wist dat de robot tegelijkertijd aan het filmen was. Deze vorm van deceptie werd door het merendeel van de deelnemers als zeer onethisch ervaren en beschouwd als een ernstige schending van de privacy.
In het derde scenario werd een robot beoordeeld die in een winkel werkte en ten onrechte klaagde over pijn bij het verplaatsen van meubels. Na deze ‘klacht’ werd de robot vervangen door een menselijke werknemer. Ook deze leugen werd door veel deelnemers, ongeveer de helft, als onacceptabel beschouwd. Verrassend genoeg waren minder mensen tegen deze vorm van liegen dan tegen de leugen in het tweede scenario.
Het onderzoek toont vooral aan dat mensen bereid zijn leugens te accepteren die de gevoelens van anderen beschermen. Wanneer robots echter misleidende informatie geven over hun eigen capaciteiten of verborgen functionaliteiten hebben, neemt de afkeer aanzienlijk toe.
Opletten voor gevaarlijke technologie
Andres Rosero, een van de auteurs van de studie, legt uit waarom het onderzoek potentieel belangrijk is: “Ik denk dat we ons zorgen moeten maken over elke technologie die in staat is om de ware aard van haar mogelijkheden te verbergen, omdat dit ertoe kan leiden dat gebruikers door die technologie worden gemanipuleerd op manieren die de gebruiker (en misschien de ontwikkelaar) nooit voor ogen had”, klinkt het. “We hebben al voorbeelden gezien van bedrijven die webdesignprincipes en chatbots met kunstmatige intelligentie gebruiken op manieren die zijn ontworpen om gebruikers te manipuleren in de richting van een bepaalde actie. We hebben regelgeving nodig om onszelf te beschermen tegen deze schadelijke misleidingen.”
Het gaat natuurlijk slechts om één onderzoek dus nuance en verdere verdieping is nodig om robotleugens beter te begrijpen in de echte wereld. “Het voordeel van het gebruik van een cross-sectionele studie met vignetten (een methode waarbij deelnemers hypothetische situaties beoordelen) is dat we een groot aantal attitudes en percepties van deelnemers kunnen verkrijgen op een kostenefficiënte manier. Vignetstudies leveren basisbevindingen op die door verdere experimenten kunnen worden bevestigd of betwist. Experimenten met in-persoon of gesimuleerde mens-robot interacties zullen waarschijnlijk meer inzicht geven in hoe mensen dit bedrieglijk gedrag van robots daadwerkelijk waarnemen.”